يمكن أن يؤدي التدريب المسبق إلى تصلب الأوزان

المقصود

في بعض الحالات، قد يكون الضبط الدقيق أسوأ أداءً لأن التدريب المسبق قد يجمّد أوزان النموذج ويقلل من قابليته للتكيف مع بيانات الضبط الدقيق.

“the third is both diverse and high-quality.”

📕 من كتاب: AI Engineering بقلم Chip Huyen

يُثبت آلية محددة يمكن من خلالها أن تتكيف النماذج المدربة مسبقًا بشكل أقل جودة أثناء الضبط الدقيق.

لا يعني ذلك أن الضبط الدقيق ضار عمومًا، ولا أن التصلب يؤثر في جميع النماذج على نحو متساوٍ.