يقلّل التحليل العوامل عدد المعاملات

المقصود

يقلّل التحليل منخفض الرتبة عدد المعاملات عبر تفكيك مصفوفة كبيرة واحدة إلى مصفوفتين أصغر، مما يخفض متطلبات الحساب والذاكرة.

“During finetuning, update only the parameters in A and B. W is kept intact.”

📕 من كتاب: AI Engineering بقلم Chip Huyen

يبيّن لماذا يمكن للطرق منخفضة الرتبة أن تجعل عملية الضبط الدقيق أقل كلفة.

لا يثبت أن جميع المهام تتحمل فقدان الدقة الناتج عن التقريب.