أحمال العمل لها نوعان من الاختناق

المقصود

تُقيَّد أحمال الاستدلال في الغالب إمّا بحدود مرتبطة بالحوسبة أو بحدود مرتبطة بعرض نطاق الذاكرة.

“also responsible for receiving, routing, and possibly preprocessing requests”

📕 من كتاب: AI Engineering بقلم Chip Huyen

تُثبت الفئات الأساسية للأداء المستخدمة لتحليل أحمال الاستدلال.

لا تُظهر أن جميع أحمال العمل تندرج حصراً ضمن هاتين الفئتين.