ما قبل التدريب مكلف

المقصود

يتطلب تدريب النماذج اللغوية الكبيرة مسبقًا حواسيب قوية، وشرائح باهظة الثمن، وأشهرًا من التشغيل، وتساعد هذه الكلفة في تفسير سبب كون بناء النماذج اللغوية الكبيرة المتقدمة مكلفًا جدًا.

الشاهد

“requires powerful computers to handle the immense calculations involved in learning from billions of words.”

📕 من كتاب: Co-Intelligence بقلم Ethan Mollick

ما الذي تثبته الفكرة؟

يثبت أن تدريب النماذج اللغوية الكبيرة مكلف من الناحية الحاسوبية ومرتفع التكلفة.

حدود الفكرة

لا يحدد الكلفة الدقيقة لأي نموذج بعينه، ولا يقارن التكاليف بين مزودين مختلفين.

اقرأ أيضاً

مفاهيم

• التدريب المسبق
• Llm Cost
• الحوسبة
• Energy

روابط للقراءة

• الذكاء المشترك
• المجال: التكنولوجيا