يطور معهد ماساشوستس للتكنولوجيا (إم.تي.آي) تقنية جديدة للمساعدة في اكتشاف "هلوسة" تطبيقات الذكاء الاصطناعي وهو مصطلح يشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي للرد على أسئلة أو طلبات المستخدمين.

ولمساعدة مدققي الحقائق البشر الذين يتعين عليهم تصفح عديد من المستندات الطويلة والمعقدة التي تستخدمها برامج محادثة الذكاء الاصطناعي أحيانا للتوصل إلى الإجابات، ابتكر علماء ومهندسون إم.آي.تي "نظاما سهل الاستخدام" يقولون إنه "يتيح للأشخاص التحقق من إجابات نموذج اللغة الكبير بشكل أسرع بكثير".

وأطلق الباحثون اسم "سيمجين" على التقنية الجديدة والمطلوبة حاليا بشدة لأن عمليات التحقق من صحة إجابات أنظمة الذكاء الاصطناعي الحالية يمكن أن تكون مرهقة وتؤدي إلى وجود أخطأ، إلى الدرجة التي قد تدفع البعض إلى عدم استخدام أنظمة الذكاء الاصطناعي كاختيار أول.

وقال معهد ماساتشوستس للتكنولوجيا إن أداة "سيمجين" تقدم إجابات برامج محادثات الذكاء الاصطناعي المعتمدة على نماذج اللغة الكبيرة من خلال "مقتطفات تشير مباشرة إلى مكان المعلومة في المصدر الأصلي مثل خلية معينة في قاعدة البيانات" حيث يقلل النظام وقت التحقق بنحو 20%، ما قد يتغلب على بعض الجوانب السلبية الأكثر إزعاجا لاستخدام برامج المحادثة التي تعمل بالذكاء الاصطناعي.

وقال شانون شين الباحث في معهد إم.آي.تي: إن أداة سيمجين تستطيع منح الناس قدرا أكبر من الثقة في ردود نماذج اللغة الكبيرة لأنهم يستطيعون بسهولة إلقاء نظرة أقرب على المحتوى لضمان تحقيق المعلومات المقدمة.

واعترف الباحثون بأن الأداة الجديدة لا تستطيع حاليا العمل إلا مع جداول التدقيق أو غيرها مصادر البيانات المنظمة كما أنها مقيدة في عملها "بجودة بيانات المصدر" المستخدمة لتدريب نموذج الذكاء الاصطناعي .