انهيار النماذج يمثل خطرًا

المقصود

يمكن أن يؤدي التدريب المتكرر على بيانات مولدة بالذكاء الاصطناعي إلى تدهور أداء النموذج بمرور الوقت والتسبب في انهيار النموذج.

“can be programmatically verified, x, by code execution and back-translation.”

📕 من كتاب: AI Engineering بقلم Chip Huyen

يثبت أن البيانات المولدة بالذكاء الاصطناعي يمكن أن تؤثر سلبًا في دورات التدريب اللاحقة.

لا يحدد مقدار البيانات المولدة الذي يمكن اعتباره آمنًا، ولا الظروف الدقيقة التي يحدث فيها الانهيار.