مفهوم: inference-latency
مفهوم: inference-latency عدد الذرات: 1 | عدد الكتب: 1
هذا المفهوم يظهر في 1 ذرة عبر 1 كتاباً في الأطلس.
📊 إحصائيات المفهوم
| المقياس | القيمة |
|---|---|
| إجمالي الذرات | 1 |
| عدد الكتب | 1 |
| ذرات قوي | 1 (100%) |
| ذرات جوهر | 1 |
| أنواع الحجج | 1 |
📚 كيف عالج كل كتاب هذا المفهوم
هندسة الذكاء الاصطناعي (1 ذرة)
المدخلات ذات السياق الطويل تصطدم بعوائق الذاكرة
“creating a bottleneck لـ running applications مع long سياق”
🌟 أبرز الذرات في هذا المفهوم
1. المدخلات ذات السياق الطويل تصطدم بعوائق الذاكرة
الكتاب: هندسة الذكاء الاصطناعي (تشيب هويين)
الادعاء: لـ long-سياق LLM inference, the KV cache can become a hardware storage bottleneck و increase loading latency.
الشاهد: “creating a bottleneck لـ running applications مع long سياق”
🔍 كيف يختلف هذا المفهوم بين الكتب؟
من خلال تحليل 1 ذرة عبر 1 كتب:
📌 ملاحظة
هذا المفهوم مترجم آلياً من المحتوى الإنجليزي الأصلي. الشواهد النصية محفوظة بالإنجليزية لضمان الدقة.