المقصود
يقوم التخزين المؤقت للمطالبة بتخزين مقاطع النص المتداخلة بحيث لا تحتاج إلى معالجتها إلا مرة واحدة عبر الاستعلامات.
الشاهد
“This one prefilling job can drain computational resources from existing decoding jobs, slowing down TPOT for these requests.”
📕 من كتاب: AI Engineering بقلم Chip Huyen
ما الذي تثبته الفكرة؟
يُثبت الآلية الأساسية التي من خلالها يقلل التخزين المؤقت للمطالبة من تكرار الحسابات.
حدود الفكرة
لا يحدد تفاصيل التنفيذ أو مكاسب الأداء في كل الحالات.
اقرأ أيضاً
مفاهيم
روابط للقراءة
- هندسة الذكاء الاصطناعي
- المجال: التكنولوجيا