يمكن لبيانات التدريب أن تعيد إنتاج التحيز

المقصود

يمكن لنماذج الذكاء الاصطناعي أن ترث التحيزات الاجتماعية وتضخمها لأن بيانات تدريبها تأتي من مصادر محدودة ومتحيزة.

“Even if pretraining is legal, it may not be ethical.”

📕 من كتاب: Co-Intelligence بقلم Ethan Mollick

يُظهر أن مخرجات النموذج يمكن أن تعكس أنماطًا اجتماعية مشوهة ناتجة عن بيانات التدريب.

لا يحدد مقدار التحيز الموجود في كل نظام ذكاء اصطناعي.