المقصود
يحافظ الضبط الدقيق باستخدام LoRA على مصفوفة الأوزان الأصلية ثابتة ويحدّث فقط مصفوفات المحولات منخفضة الرتبة.
الشاهد
“During finetuning, update only the parameters in A and B. W is kept intact.”
📕 من كتاب: AI Engineering بقلم Chip Huyen
ما الذي تثبته الفكرة؟
يُثبت السلوك الأساسي للتدريب في LoRA أثناء الضبط الدقيق.
حدود الفكرة
لا يثبت أن هذا الأسلوب هو الأمثل دائمًا لكل نموذج أو مهمة.
اقرأ أيضاً
مفاهيم
روابط للقراءة
- هندسة الذكاء الاصطناعي
- المجال: التكنولوجيا