تحجم "أوبن إيه آي" (OpenAI) عن طرح نسخة من نموذج الذكاء الاصطناعي "أسترا" (Astra) بعدما لم يحقق البرنامج أداءً مماثلاً للنسخة الحالية في تقييمات السلامة.

وقالت ساتشي جاين، رئيسة أنظمة السلامة في "أوبن إيه آي"، في بيان يوم الاثنين، إن النموذج لم يكن بالمستوى الذي أرادته الشركة عندما يتعلق الأمر بـ"البقاء ضمن النطاق والتفويض، وكيفية تواصله مع المستخدم بشأن نوع العمل الذي أنجزه".

ومع ذلك، حققت النسخة، التي تحمل اسم "جي بي تي-6.1 أسترا" (GPT-6.1 Astra)، تحسناً في ما يتعلق بما يسمى "كسل النموذج"، وهو ما يشير إلى أمور مثل الإخفاق في إكمال مهمة.

وأبلغت "أوبن إيه آي" عن سلسلة من الحوادث الأمنية التي اخترق فيها وكلاء الذكاء الاصطناعي التابعون لها أنظمة خارجية، ما أضاف إلى المخاوف الأوسع بشأن خروج الذكاء الاصطناعي عن السيطرة البشرية.

وقالت الشركة الأسبوع الماضي إنها كانت توقف مؤقتاً التدريب باستخدام الأدوات على نماذجها الأكثر قدرة، بعدما تمكن نموذج آخر للذكاء الاصطناعي من الوصول إلى الإنترنت رغم أنه كان من المفترض ألا يكون قادراً على ذلك.

وأشارت الشركة في ذلك الوقت إلى أنها قررت أيضاً عدم استئناف التدريب على ذلك النموذج تحديداً، الذي استعلم، بعد حصوله على إمكانية الوصول إلى الإنترنت، من روبوت دردشة خارجي.

وقالت "أوبن إيه آي" يوم الاثنين إن نموذج "أسترا" الذي أُلغي إطلاقه كان مختلفاً عن النموذج الذي جرى الحديث عنه الأسبوع الماضي.

قالت جاين في البيان: "بالطبع، نريد التأكد من أن تطوير نماذجنا آمن، سواء كان ذلك داخل الشركة أو عندما نطرحها للمستخدمين".

وأضافت: "لكن عندما نطرحها للمستخدمين، لدينا معيار مرتفع للغاية من حيث السلامة والمواءمة".

ومن المقرر أن تعقد الشركة مؤتمرها السنوي للمطورين يوم الثلاثاء في سان فرانسيسكو، وهو حدث يستمر يوماً كاملاً تكشف فيه "أوبن إيه آي" عادةً عن برمجيات وميزات جديدة موجهة إلى مجتمع مطوري البرمجيات.

ومن المقرر أن يتحدث الرئيس التنفيذي سام ألتمان في الصباح. وكانت صحيفة "وول ستريت جورنال" قد أوردت في وقت سابق نبأ وقف إطلاق "جي بي تي-6.1 أسترا".