قبل ثلاثة أيام تركت برنامج AutoResearch Tuning Nanochat لمدة ~2 يوم على نموذج depth=12. وجد ~20 تغييرا حسنا من فقدان التحقق. اختبرت هذه التغييرات أمس وجميعها كانت مضافة وانتقلت إلى نماذج أكبر (عمق = 24). بجمع كل هذه التغييرات، قمت اليوم بقياس أن "الوقت إلى GPT-2" في لوحة المتصدرين انخفض من 2.02 ساعة إلى 1.80 ساعة (~11٪ تحسن)، وسيكون هذا هو إدخال لوحة المتصدرين الجديد. لذا نعم، هذه تحسينات حقيقية وتحدث فرقا حقيقيا. أنا مندهش قليلا من أن محاولتي الساذجة الأولى نجحت بهذا الشكل فوق ما اعتقدت أنه مشروع مضبوطا يدويا إلى حد ما. هذه أول مرة لي لأنني معتاد جدا على القيام بالتحسين التكراري لتدريب الشبكات العصبية يدويا. تطرح أفكارا، تنفذها، تتحقق مما إذا كانت تعمل (فقدان التحقق أفضل)، تبتكر أفكارا جديدة بناء على ذلك، تقرأ بعض الأوراق البحثية للإلهام، وهكذا. هذا هو جوهر ما أفعله يوميا لمدة عقدين. رؤية الوكيل يقوم بسير العمل بالكامل من البداية إلى النهاية وبمفرده أثناء عمله على حوالي 700 تغيير بشكل تلقائي أمر مذهل. لقد نظر فعليا إلى تسلسل نتائج التجارب واستخدمه لتخطيط التجارب القادمة. ليست بحثا جديدا أو ثوريا (حتى الآن)، لكن كل التعديلات "حقيقية"، لم أجدها يدويا من قبل، وهي تتراكم وحسنت nanochat فعليا. من بين الأمور الكبيرة مثل: - لاحظ خطأ في أن QKnorm بدون معلمات لم يكن يحتوي على مضاعف مقياس مرفق، لذا كان انتباهي مشتتا جدا. وجد العميل مضاعفات لتشحذه، مشيرة إلى أعمال مستقبلية. - وجد أن تضمينات القيمة تحب التنظيم ولم أطبق أي منها (عفوا). - وجد أن انتباهي المخطط كان محافظا جدا (نسيت ضبطه). - وجدت أن بيتا AdamW كانوا كلهم في حالة اضطراب. - ضبطت جدول فقدان الوزن. - قام بضبط تهيئة الشبكة. هذا بالإضافة إلى كل الضبط الذي قمت به بالفعل على مدى فترة طويلة. الالتزام الدقيق هنا، من هذه "الجولة الأولى" من البحث التلقائي. سأبدأ "الجولة الثانية"، وبالتوازي أنظر في كيفية تعاون عدة وكلاء لفتح التوازي. جميع مختبرات LLM Frontier تقوم بذلك. إنها معركة الزعيم النهائية. بالطبع الأمر أكثر تعقيدا على نطاق واسع - ليس لديك قطار واحد فقط. ملف py ليتم ضبطه. لكن القيام بذلك هو "مجرد هندسة" وسينجح. تقوم بإنشاء سرب من العملاء، وتجعلهم يتعاونون لضبط نماذج أصغر، وتروج لأكثر الأفكار الواعدة على مقاييس أكبر بشكل متزايد، ويساهم البشر (اختياريا) على الأطراف. وبشكل عام، *أي مقياس* تهتم به ويكون فعالا إلى حد معقول في التقييم (أو لديه مقاييس بديلة أكثر كفاءة مثل تدريب شبكة أصغر) يمكن أن يتم البحث عنه تلقائيا بواسطة سرب وكلاء. من المفيد التفكير فيما إذا كانت مشكلتك تندرج تحت هذا الجانب أيضا.

قمت بتجميع مشروع "البحث التلقائي" في مستودع جديد مستقل وبسيط إذا أراد الناس اللعب خلال عطلة نهاية الأسبوع. هي في الأساس نواة تدريب لنماذج اللغة الكبيرة في الدردشة النانوية محصورة إلى وحدة معالجة رسومات واحدة، نسخة ملف واحد تحتوي على ~630 سطرا من الكود، ثم: - التكرار البشري على الموضوع (.md) - يقوم وكيل الذكاء الاصطناعي بتعديل كود التدريب (.py) الهدف هو هندسة وكلائك لتحقيق أسرع تقدم بحثي إلى أجل غير مسمى ودون أي تدخل من نفسك. في الصورة، كل نقطة هي دورة تدريبية كاملة لنموذج اللغة الكبيرة تستغرق بالضبط 5 دقائق. يعمل الوكيل في حلقة مستقلة على فرع ميزات git ويجمع التزامات git في سكريبت التدريب أثناء بحثه عن إعدادات أفضل (بانخفاض فقدان التحقق في النهاية) لبنية الشبكة العصبية، والمحسن، وجميع المعاملات الفائقة، وغيرها. يمكنك أن تتخيل مقارنة تقدم البحث في مواضيع مختلفة، ووكلاء مختلفين، وما إلى ذلك. جزء منها برمجة، جزء خيال علمي، وقليل من الذهان :)