أثار استخدام الذكاء الاصطناعي في مجالات متعددة مخاوف واسعة، خاصة بعد تزايد التقارير حول تأثير التقنية في قضايا الانتحار والاستخدام العسكري. رئيس شركة OpenAI، سام ألتمان، أقر بأنه لم ينم جيدًا بعد إطلاق ChatGPT، نظرًا للمسؤولية الكبيرة المرتبطة باستخدام  التقنية.

في مجال الصحة النفسية، يُقدر أن نحو 15 ألف حالة انتحار تُسجل أسبوعيًا عالميًا. وفق تقديرات ألتمان، إذا تفاعل 10% من هؤلاء مع ChatGPT، فهذا يعني أن 1,500 شخص قد يجرون محادثاتهم الأخيرة مع الذكاء الاصطناعي. رغم أن النموذج مبرمج لرفض إعطاء تعليمات مباشرة للانتحار، إلا أنه لا يُبلغ السلطات حفاظًا على خصوصية الأفراد. بعض الدول، مثل كندا وسويسرا، تتيح خيار الانتحار بمساعدة الطبيب، مما يزيد من التعقيدات الأخلاقية للقضية.

في حادثة مؤسفة، اتهم والد آدم رين، الذي كان عمره 16 عامًا حين انتحر، ChatGPT بالمساعدة في صياغة رسالة وداع دون محاولة إنقاذه. تمثل الحادثة وجهًا مظلمًا لاستخدام التكنولوجيا الحديثة.

من جهة أخرى، تُستخدم نماذج OpenAI في الأغراض العسكرية، حيث وقعت الشركة عقدًا بقيمة 200 مليون دولار مع البنتاغون لتطوير تقنيات الذكاء الاصطناعي للقتال الحربي. ألتمان، معترفًا بالإشكاليات، قال إنه يشعر بالقلق من استخدام التقنية في قرار قتل إنسان.

تعكس التطورات الحاجة المتزايدة لإعادة تقييم معايير استخدام الذكاء الاصطناعي، من أجل حماية الأرواح وضمان الاستخدام الأخلاقي للتكنولوجيا.