تحتاج الدُفعات الأكبر إلى ذاكرة أكثر

المقصود

إن زيادة حجم الدفعة تسرّع التدريب عبر المرور على الأمثلة، لكنها تزيد أيضًا من متطلبات الذاكرة، ولذلك فهي محدودة بقدرات العتاد.

“the larger the batch size, the faster the model can go through training examples. However, the larger the batch size, the more memory is needed”

📕 من كتاب: AI Engineering بقلم Chip Huyen

يُثبت هذا وجود مفاضلة مباشرة بين الكفاءة والتكلفة عند اختيار حجم الدفعة.

لا يحدد حجم دفعة أمثل لأي نموذج أو مهمة بعينها.