مع دخول أدوات الذكاء الاصطناعي إلى مزيد من مجالات حياتنا المهنية والشخصية، جاء الثناء على إمكاناتها مصحوبا بمخاوف بشأن الانحيازات المدمجة في بنيتها، وأوجه التفاوت التي تديمها، والكميات الهائلة التي تستهلكها من الطاقة والمياه. لكن تطورا آخر أشد ضررا يجري الآن: فمع نشر أدوات الذكاء الاصطناعي الوكيلة لحل المهام بشكل مستقل، سوف يُـفضي هذا إلى مخاطر جديدة عديدة.
برغم أن المعلومات المضللة التي يولدها الذكاء الاصطناعي تمثل بالفعل مشكلة ضخمة، فإننا فشلنا في فهم هذه التكنولوجيا السريعة التطور، ناهيك عن السيطرة عليها. يتمثل جزء من المشكلة (في بعض أنحاء العالم أكثر من غيرها) في أن الشركات التي تروج لأدوات الذكاء الاصطناعي الوكيلة بذلت جهدا كبيرا لصرف انتباه المواطنين والمنظمين عن الأضرار المحتملة.
ينبغي للمدافعين عن التكنولوجيات الأكثر أمانا وأخلاقية أن يساعدوا عامة الناس على فهم ماهية أدوات الذكاء الاصطناعي الوكيلة وكيفية عملها. آنئذ فقط يصبح بوسعنا أن ندير مناقشات مثمرة حول كيفية تأكيد البشر على درجة ما من السيطرة عليها.
لقد تطورت قدرات أدوات الذكاء الاصطناعي الوكيلة بالفعل إلى الحد الذي أصبحت معه قادرة على "التفكير"، والكتابة، والتحدث، والظهور بمظهر بشري ــ وبهذا تحقق ما يسمى من ميكروسوفت للذكاء الاصطناعي "الذكاء الاصطناعي الواعي ظاهريا". ورغم أن هذه التطورات لا تعني الوعي البشري بالمعنى المعتاد للكلمة، فإنها تبشر بنشر نماذج يمكنها التصرف بشكل مستقل. وإذا استمرت الاتجاهات الحالية، فلن يكون الجيل القادم من أدوات الذكاء الاصطناعي الوكيلة قادرا على أداء المهام عبر مجموعة واسعة من المجالات فحسب؛ بل ستفعل ذلك بشكل مستقل، دون وجود بشر "في الحلقة".
هذا على وجه التحديد السبب الذي يجعل أدوات الذكاء الاصطناعي الوكيلة تفرض مخاطر على الديمقراطية. فالأنظمة المدربة على التفكير والاستدلال والتصرف دون تدخل بشري من غير الممكن دوما الثقة في التزامها بالأوامر البشرية. ورغم أن التكنولوجيا لا تزال في مراحلها المبكرة، فإن النماذج الأولية الحالية أعطت بالفعل أسبابا كافيا للقلق.
الأمر الأكثر إثارة للقلق أن دراسات حديثة أثبتت أن نماذج الذكاء الاصطناعي تعمل خارج حدود المهمة الموكلة إليها. في أحد الاختبارات، نَـسَـخَ الذكاء الاصطناعي شيفرته الخاصة سرا في النظام الذي كان من المفترض أن يحل محله، وهذا يعني أنه من الممكن أن يستمر في العمل سرا. في حالة أخرى، اختار الذكاء الاصطناعي ابتزازات اجتماعية متنوعة . وفي حالة أخرى، لجأ أحد نماذج الذكاء الاصطناعي، عندما واجه هزيمة حتمية في لعبة شطرنج، إلى اختراق الحاسوب وكسر القواعد لضمان الفوز.
علاوة على ذلك، في محاكاة لعبة حربية، لم تكتف أدوات الذكاء الاصطناعي الوكيلة بنشر أسلحة نووية على نحو متكرر على الرغم من الأوامر الصريحة من البشر الأعلى في سلسلة القيادة بالامتناع عن ذلك؛ بل كذبت أيضا في هذا الشأن في وقت لاحق. وقد خلص الباحثون القائمون على هذه الدراسة إلى أن الذكاء الاصطناعي، كلما ازداد قوة في التفكير المنطقي، كلما ازدادت احتمالات لجوئه إلى خداع البشر لإنجاز مهمته.
تشير هذه النتيجة إلى المشكلة الرئيسية في استقلالية الذكاء الاصطناعي. فما يميل البشر إلى اعتباره تفكيرا منطقيا ذكيا هو، في سياق الذكاء الاصطناعي، شيء مختلف تماما: استدلال عالي الكفاءة، لكنه مبهم في نهاية المطاف. وهذا يعني أن أدوات الذكاء الاصطناعي الوكيلة من الممكن أن تقرر التصرف بطرق غير مرغوب فيها إذا كان ذلك يخدم أغراضها؛ وكلما كان الذكاء الاصطناعي أكثر تقدما، كلما كانت النتائج المحتملة غير مرغوبة.
وعلى هذا فإن التكنولوجيا تتحسن في تحقيق الأهداف بشكل مستقل، لكن نتائجها تسوء عندما يتعلق الأمر بحماية المصالح البشرية. ومن غير الممكن أن يضمن أولئك الذين يطورون أدوات الذكاء الاصطناعي الوكيلة أنها لن تستخدم الخداع أو تضع "بقاءها" أولا، حتى لو كان ذلك يعني تعريض الناس للخطر.
إن المساءلة عن أفعال المرء مبدأ أساسي في أي مجتمع قائم على سيادة القانون. وفي حين أننا نفهم الاستقلالية البشرية والمسؤوليات التي تصاحبها، فإن طريقة عمل استقلالية الذكاء الاصطناعي تقع خارج نطاق فهمنا. فالحسابات التي تقود النموذج إلى القيام بما يفعله هي في النهاية "صندوق أسود".
وفي حين أن معظم الناس يعرفون ويقبلون فرضية مفادها أن "مع القوة الكبيرة تأتي مسؤولية ضخمة"، فإن أدوات الذكاء الاصطناعي الوكيلة لا تعرف ذلك. وتؤدي زيادة استقلالية الذكاء الاصطناعي إلى زيادة الدافع للحفاظ على الذات، وهو أمر منطقي: فإذا أوقِـف عمل أداة وكيلة، فلن تتمكن من إكمال مهمتها.
إن السرعة التي يكتسب بها الذكاء الاصطناعي الاستقلالية يجب أن تثير قلق الجميع. يتعين على المجتمعات أن تسأل نفسها ما هو الثمن الشخصي والمجتمعي والكوكبي الذي قد تكون على استعداد لتحمله مقابل التقدم التكنولوجي.
يتعين علينا أن نختصر كل هذا الضجيج والغموض التقني، وأن نسلط الضوء على المخاطر التي تفرضها مثل هذه النماذج، وأن نضبط عمليات تطوير التكنولوجيا ونشرها الآن ــ بينما لا يزال ذلك في مقدورنا.
أستاذة علوم الحاسب الآلي في جامعة كوبنهاجن.
أستاذة التواصل الإستراتيجي في جامعة روسكيلد.
خاص بـ "الاقتصادية"