"جوجل" تضيف خاصية جديدة إلى "جيمني" لتقليل تكلفة استخدام نماذج الذكاء الاصطناعي
تطلق جوجل ميزة في تطبيق برمجة الذكاء الاصطناعي جيميني، لخفض تكلفة استخدام المطورين الخارجيين لأحدث نماذج الذكاء الاصطناعي التي تقدمها الشركة الأمريكية.
تطلق جوجل على الخاصية الجديدة اسم "التخزين المؤقت الضمني"، وتشير إلى أنها توفر 75% من تكلفة " السياق المتكرر" الذي يتم تمريره إلى إلى نماذج الذكاء الاصطناعي عبر واجهة برمجة تطبيقات جيمني. وتدعم هذه الخاصية إصداري نموذج الذكاء الاصطناعي جيمني 2.5 برو وجيمني 2.5 فلاش من جوجل.
وذكر موقع تك كرانش المتخصص في موضوعات التكنولوجيا إلى أنه المرجح أن يكون هذا خبرا سارا للمطورين مع استمرار ارتفاع تكلفة استخدام نماذج الذكاء الاصطناعي.
يذكر أن التخزين المؤقت من الممارسات الشائعة على نطاق واسع في مجال الذكاء الاصطناعي التخزين المؤقت، حيث يعيد استخدام البيانات المستخدمة بكثرة أو المحسوبة مسبقا من النماذج لتقليل متطلبات الحوسبة والتكلفة عند أداء كل مهمة.
على سبيل المثال، يمكن لذاكرة التخزين المؤقت الاحتفاظ بإجابات الأسئلة التي يطرحها المستخدمون عادة على النموذج، ما يغني النموذج عن إعادة البحث عن إجابات كل مرة يطرح فيها الطلب نفسه.
كانت جوجل تقدم سابقا تخزينا مؤقتا للطلبات المقدمة لنماذج الذكاء الاصطناعي، ولكن كان تخزينا مؤقتا صريحا، ما يعني أن على المطورين تحديد مطالباتهم الأكثر تكرارا. وبينما كان من المفترض ضمان توفير التكاليف، إلا أن التخزين المؤقت الصريح للمطالبات عادة ما يتطلب جهدا يدويا كبيرا.
ولم يكن بعض المطورين راضين عن أداء تطبيق جوجل للتخزين المؤقت الصريح في إصدار جيمني 2.5 برو، الذي قالوا إنه قد يتسبب في ارتفاع تكلفة الاستخدام بشكل غير متوقع. وبلغت الشكاوى ذروتها الأسبوع الماضي، ما دفع فريق جيمني إلى الاعتذار والتعهد بإجراء تغييرات.
وعلى عكس التخزين المؤقت الصريح، فإن التخزين المؤقت الضمني تلقائي.
ويتم تفعيله افتراضيا في نماذج جيمني 2.5 وينقل وفورات التكلفة إذا وصل طلب متكرر في واجهة برمجة تطبيقات جيمني إلى نموذج ذكاء اصطناعي ما في ذاكرة تخزين مؤقت.