المقصود
تُقلِّل نقطة التفتيش للتدرّج من ذاكرة التفعيلات عبر إعادة حساب التفعيلات، لكنها تُبطئ التدريب بسبب الحساب الإضافي.
الشاهد
“the activation memory can be much larger.”
📕 من كتاب: AI Engineering بقلم Chip Huyen
ما الذي تثبته الفكرة؟
يُظهر هذا أسلوبًا ملموسًا لتوفير الذاكرة عند تدريب النماذج الكبيرة.
حدود الفكرة
لا يثبت مقدار التوفير في الذاكرة أو حجم العقوبة الزمنية.
اقرأ أيضاً
مفاهيم
روابط للقراءة
- هندسة الذكاء الاصطناعي
- المجال: التكنولوجيا