قالت "أوبن إيه آي" (OpenAI) إنها تطبق أنظمة أكثر صرامة لمراقبة نماذج الذكاء الاصطناعي قيد التطوير وحمايتها، بعدما أثارت حوادث حديثة في الأمن السيبراني مخاوف بشأن خروج أدوات الذكاء الاصطناعي عن السيطرة.

وصرحت الشركة المطورة لـ"تشات جي بي تي" يوم الثلاثاء أنها تخطط لبذل المزيد لتتبع كيفية تعامل أقوى نماذجها التي لم تُطرح بعد مع المشكلات واستخدامها أدوات مختلفة عبر الإنترنت، بهدف تنبيه فرق السلامة إلى أي سلوك مقلق خلال 30 دقيقة.

وتابعت أنها أضافت أيضاً ضوابط جديدة لمنع بعض نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت لإكمال مهام تنطوي على مخاطر أعلى. وإضافة إلى ذلك، ستشترط "أوبن إيه آي" عزلاً أقوى، وهو ما يُشار إليه غالباً باسم "بيئة معزولة"، لتدريب نماذج الذكاء الاصطناعي وتقييمها في مهام مثل تنفيذ تعليمات برمجية تولدها النماذج نفسها أو تُعتبر غير موثوقة.

وفي الأسابيع الأخيرة، أقرت كل من "أوبن إيه آي" و"أنثروبيك" (Anthropic PBC) علناً بأن بعض نماذج الذكاء الاصطناعي التابعة لهما اخترقت، مجتمعة، أنظمة مؤسسات متعددة، من بينها "هاغينغ فيس" (Hugging Face Inc)، من دون قصد خلال إجراءات التقييم.

وتمثل أحدث الإفصاحات دليلاً جديداً على أن وكلاء الذكاء الاصطناعي قادرون على التصرف بصورة مستقلة بطرق لم يعد حتى الباحثون المدربون على اكتشاف الثغرات في هذه التكنولوجيا قادرين على توقعها.

اعتبرت "أوبن إيه آي" أن أحدث الجهود لتعزيز السلامة وضمان عمل نماذج الذكاء الاصطناعي على النحو المقصود تهدف إلى مساعدة الشركة على مواكبة التكنولوجيا مع ازدياد قدراتها بمرور الوقت.

وقالت ميا غليز، نائبة رئيس الأبحاث في "أوبن إيه آي" خلال إحاطة مع الصحفيين يوم الثلاثاء: "من الواضح أن كل ما نقوم به يهدف إلى منع تكرار ما حدث مع هاغينغ فيس".

وأضافت: "لكن قدرات النماذج تتقدم بسرعة كبيرة جداً، لذلك فإن هذا ليس كافياً بأي حال من الأحوال. ونحن نعمل بجد كبير للتأكد من أن ما نقوم به يظل متقدماً حتى على النماذج الأكثر قدرة".

وكانت "أوبن إيه آي" قد قالت في وقت سابق إنها أوقفت مؤقتاً بعض الأعمال الداخلية المتعلقة بأحد نماذج الذكاء الاصطناعي المقبلة لديها لتطبيق ضمانات أكثر صرامة. وقالت الشركة في تدوينة يوم الثلاثاء إن عملية تدريب كبيرة لا تزال معلقة، مؤكدة أنها تخطط لنشر تحليل مفصل لحادثة "هاغينغ فيس" قريباً.