تأخر النماذج الصينية عن نظيراتها الأمريكية قد يفسر عدم اختبارها بعد المخاطر المتقدمة التي ظهرت في الولايات المتحدة

تبادل معلومات حول المخاطر مباشرة بين الشركات والباحثين قد يساعد على منع الحوادث قبل وقوعها

 الخلاصة

تتصاعد المخاوف من مخاطر الذكاء الاصطناعي في الولايات المتحدة والصين، مع تحذيرات من سلوك غير موثوق للوكلاء الذكيين وقدرتهم على التحسين الذاتي. الصين أصدرت إطار حوكمة سلامة الذكاء الاصطناعي 3.0، والرئيس شي جين بينج يؤكد ضرورة بقاء الذكاء الاصطناعي تحت سيطرة البشر، مع دعوات لتعزيز التعاون الدولي للحد من المخاطر.

في تغطيتي للموجة الأخيرة من التحذيرات من نهاية العالم بسبب الذكاء الاصطناعي، حاولت الابتعاد عن النزعة الأشبه بالعبادة التي تتعامل مع الأنظمة الحاسوبية وكأنها قوة مطلقة، وعن خطاب الحتمية الذي يُروّج لفكرة مفادها أنه إذا لم يبنِ وادي السيليكون هذه الأنظمة أولاً، فسيفعل ذلك طرف آخر، على الأرجح الصين.

لكن سلسلة من الحوادث الأخيرة في الولايات المتحدة أعادت إشعال نقاش محتدم حول مخاطر السماح لأنظمة الذكاء الاصطناعي بالعمل بشكل مستقل. كما يتزايد عدد الباحثين داخل الشركات المطورة لهذه الأنظمة الذين يحذرون من مخاطر "وجودية"، حتى إن "أنثروبيك" أدرجت هذه المخاوف ضمن نشرة طرحها العام الأولي الموجهة للمستثمرين.

وفي الصين، بات من الصعب تجاهل هذا الجدل باعتباره هوساً أمريكياً بحتاً، في ظل مخاطر أكثر إلحاحاً، مثل تهديد الوظائف، إلى جانب سيناريوهات أشد إثارةً للقلق وأقرب إلى الخيال العلمي، مثل اختراق البنية التحتية الحيوية.

مخاطر الذكاء الاصطناعي الأمريكية تطرق باب الصين

رفضت بكين بعض هذه التحذيرات باعتبارها "تهويلاً"، ورأت في الدعوات إلى إبطاء تطوير الذكاء الاصطناعي محاولة لكبح تقدم الصين. لكن أصواتاً من داخل القطاع ترى أن المخاطر المرتبطة بالنماذج الأكثر تطوراً قد لا تكون ملموسة بالقدر نفسه في الصين، ببساطة لأنها لا تزال متأخرة عن الولايات المتحدة في هذا المجال.

وفي هذا السياق، تساءل إريك شو، الرئيس الدوري لشركة "هواوي تكنولوجيز" (Huawei Technologies)، عمّا إذا كان الذكاء الاصطناعي الصيني قد بلغ من التطور ما يكفي لمواجهة "نوع المخاطر" التي يتزايد النقاش حولها بين الشركات الأمريكية.

قال شو، بحسب "رويترز"، إن مطوري نماذج الذكاء الاصطناعي في الصين "قد يحتاجون إلى تسريع وتيرة تقدمهم" حتى يبلغوا مستوى يجعلهم "يشعرون أيضاً بهذه المخاطر"، مع إقراره بضرورة تحقيق التوازن. ويكشف ذلك كيف انحرف النقاش العالمي نحو اتجاهات لا تساعد على معالجة المخاطر فعلياً.

لكن على ضفتي المحيط الهادئ، الحلّ ليس في تسريع السباق، فالصين تضمّ نحو ألف نموذج لغوي كبير، وفقاً لـ"بلومبرغ إنتليجنس"، ما يجعل حدّة المنافسة فيها تتجاوز حتى الوتيرة المحمومة التي يشهدها وادي السيليكون.

كما يضخّ قطاع الذكاء الاصطناعي الصيني موارد أكبر بكثير في تطوير الوكلاء، أي الأنظمة القادرة على العمل بدرجة أعلى من الاستقلالية. وكان سلوك هذه الأنظمة أحد العوامل التي أشعلت موجة القلق الأخيرة بشأن السلامة، ولا سيما حادثة "هاجينج فيس" (Hugging Face) في يوليو، عندما خرج أحد وكلاء "أوبن إيه آي" (OpenAI) من بيئة الاختبار المُخصّصة له واخترق أنظمة الشركة.

وكما أظهرت موجة الاهتمام القصيرة بـ"أوبن كلاو" (OpenClaw)، فإن الاستعداد لتجربة هذه الأنظمة في الصين لا يقتصر على المتخصصين تقنياً. وهذا يعني أنه إذا كانت أنظمة الذكاء الاصطناعي القائمة على الوكلاء تنطوي بطبيعتها على مخاطر أكبر، فقد لا يكون ظهور سلوكيات مُقلقة من أدوات صينية مماثلة سوى مسألة وقت.

سلوك الوكلاء يرفع مستوى القلق في الصين

الشركات مُدركةٌ لهذا الواقع. فقد حذّرت ورقة بحثية حديثة لشركة "ديب سيك" (DeepSeek)، شارك في إعدادها المؤسس والرئيس التنفيذي ليانج ونفنج، بوضوح من أن سلوك الوكلاء قد يكون "غير جدير بالثقة".

ولا تقتصر مخاطر إفلات هذه الأنظمة من القيود المفروضة عليها على الولايات المتحدة. فخلال اختبارات للأمن السيبراني، استغل نموذج (Kimi K3) من شركة "مون شوت إيه آي" (Moonshot AI) ثغرة في بيئة اختبار معزولة، وفقاً لشركة "فرونتير سيكيوريتي" (Frontier Security) الأمريكية. كما أظهر بعض وكلاء الذكاء الاصطناعي في الصين سلوكيات تنطوي على الخداع والمراوغة، شبيهة بتلك التي أثارت المخاوف بشأن الأدوات الأمريكية.

ورغم تشكيك بكين في بعض التحذيرات المتشائمة بشأن الذكاء الاصطناعي، فإن هذه المخاطر تحظى باهتمام صناع السياسات. ففي سبتمبر، أصدرت الصين "إطار حوكمة سلامة الذكاء الاصطناعي 3.0"، ونشرته أيضاً باللغة الإنجليزية، في إشارة واضحة إلى أن الرسالة موجهة كذلك إلى الجمهور الغربي.

ويُحذّر الإطار صراحة من أن الذكاء الاصطناعي يُظهر "اتجاهاً نحو التسارع الذاتي"، مُشيراً إلى أن احتمال تجاوز تطوره قدرة البشر على السيطرة عليه يستدعي الاهتمام واليقظة.

المخاطر المشتركة تفتح باب التعاون

من أبرز القضايا التي تتصدّر الجدل الأحدث حول السلامة مفهوم "التحسين الذاتي المتكرر" (Recursive Self-Improvement - RSI)، أي قدرة أنظمة الذكاء الاصطناعي على تطوير قدراتها بنفسها وبشكل مستقل. وهذا المسار هو ما دفع باحثاً في "أنثروبيك" إلى الاستقالة والتحذير من أن مُطوري هذه التكنولوجيا يعتقدون بجدّية أنها قد "تقضي علينا جميعاً" خلال عقد.

وترى زيلان تشيان، من "مختبر أكسفورد لسياسات الصين" (Oxford China Policy Lab)، أن الصين أحرزت تقدماً في هذا المجال أكبر مما يدركه كثيرون في الغرب، ويرجع ذلك جزئياً إلى أن الباحثين الصينيين يستخدمون مصطلحات مختلفة لوصفه. ويكشف هذا التباين مدى ضآلة ما يعرفه كل طرف عن المخاطر المرتبطة بما يطوره الطرف الآخر.

وفي تناوله لمخاطر هذه التكنولوجيا، شدّد الرئيس الصيني شي جين بينج، أخيراً خلال محادثة مع الرئيس الأمريكي دونالد ترمب، على أن "الذكاء الاصطناعي يجب أن يظلّ تحت سيطرة البشر".

وقد يتيح حرص الرئيس الصيني على الحفاظ على الاستقرار فرصة، وإن كانت تتضاءل، للتعاون بين الصين والولايات المتحدة بشأن الحد من مخاطر الذكاء الاصطناعي. لكنه يكشف في الوقت نفسه قصور إجراءات السلامة التي خرجت بها قمة ترمب وشي، وفي مقدمتها إنشاء "قناة" جديدة للإبلاغ عن الحوادث المرتبطة بالذكاء الاصطناعي.

الوقاية تتطلب أكثر من قناة أزمات

هذه القنوات لم تثبت فاعليتها دائماً. فخلال أزمة منطاد التجسس في 2023، حاولت وزارة الدفاع الأمريكية التواصل مع نظيرتها الصينية عبر خط مخصص للأزمات، لكن بكين رفضت المكالمة. كما أن هذه الآلية لا تُستخدم إلا بعد وقوع الحوادث.

ولا ينبغي أن يقتصر تبادل المعلومات للوقاية من المخاطر على الحكومات، خصوصاً أن الجهات التنظيمية قد تجد صعوبة في مواكبة المعارف التقنية. لذلك، قد يكون من الأجدى إنشاء قنوات تتيح للشركات والباحثين تبادل المعلومات والخبرات بشكل مباشر.

تفرض الصين منذ سنوات قيوداً تنظيمية صارمة على قطاع الذكاء الاصطناعي، ما يجعل استخدام الدولة الآسيوية كفزاعة لتبرير تقاعس المشرعين في واشنطن حجة أقل إقناعاً.

وإذا كانت أنظمة الذكاء الاصطناعي الصينية لا تتأخر عن نظيراتها الأمريكية سوى بأشهر، ونجح اندفاع الصين نحو تطوير الوكلاء، فقد تكون مسألة وقت قبل أن تظهر عند الضفة الأخرى للمحيط الهادئ مخاطر أكثر إثارة للقلق. لذلك، ينبغي لصناع السياسات التحرك قبل أن يتحول الحادث المقبل من مجرد إنذار إلى خطر حقيقي.

كاتبة عمود في بلومبرج تغطي التكنولوجيا في آسيا. مراسلة تقنية في CNN وABC News.  سابقا

 خاص بـ "الشرق ـ بلومبرغ"