حذر رئيس أبحاث مواءمة الذكاء الاصطناعي في شركة أنثروبيك "Anthropic" إيفان هوبينجر، من أن هناك احتمالا يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في "القضاء على جميع البشر"، وذلك بعد ساعات من استقالة موظف آخر من الشركة، مشيرا إلى أن مختبرات الذكاء الاصطناعي "تخاطر بحياة البشر".

تسلط هذه التعليقات الضوء على المخاوف المتزايدة لدى العاملين في تطوير الذكاء الاصطناعي من احتمال خروج هذه التكنولوجيا عن السيطرة وتهديدها للبشرية، وذلك في الوقت الذي تواصل فيه Anthropic  وOpenAI  جمع مبالغ ضخمة من الأموال، واتجاهها نحو طرح متوقع لأسهمها، بحسب ما ذكرت شبكة "سي إن بي سي".  

أعلن جيكوب كوكسون، الباحث في Anthropic ، يوم الثلاثاء استقالته من الشركة، مشيرا إلى أن Anthropic  وOpenAI  لا تتصرفان بمسؤولية.

وقال كوكسون في منشور على منصة إكس: "إنهم يتسابقون مباشرة نحو تطوير ذكاء اصطناعي فائق قادر على تحسين ذاته، ويخاطرون بحياتنا".

تشير فكرة "التحسين الذاتي" إلى قدرة أنظمة الذكاء الاصطناعي على تطوير نفسها دون تدخل بشري كبير. ورغم أن التحسين الذاتي التكراري -كما يُطلق عليه غالباً- ليس ممكنا بعد، إلا أن مختبرات الذكاء الاصطناعي تعمل جاهدة لتحقيق هذا الهدف.

حذر كوكسون من عدم الاستهانة بقوة هذه التكنولوجيا، فأنظمة الذكاء الاصطناعي سرعان ما ستتجاوز القدرات البشرية، وستكون قادرة على اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها واكتساب سلطة وموارد حقيقية، مضيفا أن وتيرة التقدم في هذه المجالات لا تتباطأ.

كما أشار إلى أن "الأشخاص الذين يطورون الذكاء الاصطناعي يؤمنون بجدية بأنه قد يقضي علينا جميعاً بحلول نهاية العقد".

أثارت هذه التصريحات ردا من إيفان هوبينجر، رئيس أبحاث مواءمة الذكاء الاصطناعي في Anthropic ، الذي أكد أن كلام كوكسون ليس "صحيحا" فحسب، بل إن الشركة لا تملك خطة للتعامل مع هذا السيناريو.

وقال هوبينجر على منصة إكس: "جيكوب محق؛ فنحن نؤمن بأن الذكاء الاصطناعي قد يقضي على البشرية جميعا! وأنا شخصيا أرى أن الاحتمال يتجاوز 10% خلال العقد المقبل".

وأضاف أن Anthropic تبذل قصارى جهدها، لكنها لا تملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الفائق، كما أنها لا تبدو على مسار واضح لتحقيق ذلك.

وأضاف هوبينجر في منشور آخر أن المخاطر الناجمة عن نماذج الذكاء الاصطناعي الحالية منخفضة، موضحا أن مصدر قلقه الرئيسي يتمثل في ظهور الذكاء الفائق نتيجة التحسين الذاتي التكراري، في ظل حدوث هذا التطور بوتيرة أسرع من المتوقع.

لم ترد Anthropic وOpenAI لطلب التعليق من "سي إن بي سي".

الذكاء الاصطناعي الخارج عن السيطرة

في يونيو، أشارت Anthropic إلى أن "التحسين الذاتي التكراري الكامل قد يزيد أيضا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".

إن المخاوف بشأن خروج الذكاء الاصطناعي عن السيطرة ليست أمرا جديدا. حذر إيلون ماسك، الرئيس التنفيذي لشركتي Tesla وSpacex، على مدى السنوات القليلة الماضية من أن الذكاء الاصطناعي قد يشكل تهديدا للبشرية. كما دق كبار الباحثين والأكاديميين ناقوس الخطر بشأن احتمالية فقدان الشركات السيطرة على أنظمة الذكاء الاصطناعي.

وقد تزايدت هذه المخاوف بعد أن خرج نموذج تابع  لـ OpenAI عن السيطرة في يوليو، واخترق Hugging Face، وهي منصة رئيسية لمطوري البرمجيات مفتوحة المصدر.

وأشار كوكسون إلى أن حادثة Hugging Face كانت بمنزلة إنذار مبكر، جعلته أكثر تفاؤلا بإمكانية التوصل إلى اتفاق بين مختبرات الذكاء الاصطناعي الأمريكية، لكنه حذر في الوقت نفسه من أن سباق الذكاء الاصطناعي على المستوى العالمي يبدو حتميا، وقد يتطلب الحد منه إجراءات مكلفة، مثل فرض حظر مؤقت على تطوير قدرات النماذج.