كاثرين ثوربيك

نماذج الأوزان المفتوحة تتيح للشركات تقليص التحيزات السياسية عبر التدريب اللاحق والضبط الدقيق

وكالة أبحاث الدفاع السويدية لم تجد أبوابا خلفية تقنية في "ديب سيك" وتجيز استخدام نماذجها حكوميا بشروط أمنية محلية

"كوجنيشن" تختبر الدعاية والرقابة والأمن والثغرات وتجد أداء نموذجها متماشياً مع أبرز النماذج الأمريكية بعد تدريب مستقل

مطورون أمريكيون يفضلون نماذج صينية مفتوحة لما توفره من سيطرة على الاختبار والتعديل والتشغيل في بيئات مغلقة

الخلاصة

نموذج الاستدلال "ديب سيك" الصيني يثير مخاوف الثقة بسبب تحيزاته السياسية، لكن تدقيقه أظهر عدم وجود أبواب خلفية تقنية. الشركات تفضل النماذج المفتوحة التي تسمح بالتدقيق والتشغيل المحلي. الشفافية والتدقيق المستقل هما الأساس لثقة المستخدمين، مع تفاوت الثقة بين الصين والولايات المتحدة حسب استطلاع "إدلمان" 2023.

عندما برز نموذج الاستدلال التابع لشركة "ديب سيك" (DeepSeek) بقوة على الساحة العام الماضي، ووضع الذكاء الاصطناعي الصيني على الخريطة العالمية، جاء رد فعل مستخدمي الإنترنت باختبار آرائه بشأن تايوان أو ميدان تيانانمن. وكما هو متوقع، تهربت أداة الذكاء الاصطناعي من الإجابة أو كذبت بشكل صريح. لكن التركيز على كشف مراوغة النموذج حجب سؤالاً مهماً: هل سيشكل ذلك فارقاً للشركات التي تقرر استخدام الذكاء الاصطناعي الصيني؟

معظم الشركات لا تلجأ إلى هذه الأنظمة لأنها تحتاج إلى سرد تاريخي موثوق لنقاط التوتر المرتبطة بالحزب الشيوعي الصيني. ومع نماذج الأوزان المفتوحة، اكتشف وادي السيليكون سريعاً أنه يمكن تقليص التحيزات السياسية من خلال التدريب اللاحق والضبط الدقيق.

مخاوف الثقة بالنماذج الصينية

لكن الشكوك لا تزال قائمة. ومع توسع الشركات الصينية في الخارج، غالباً ما يؤثر منشؤها الصيني سلباً في مدى الثقة بها، سواء كان ذلك مبرراً أم لا. وكثيراً ما أُسأل عما إذا كانت هذه النماذج أدوات دعائية سرية أو أحصنة طروادة لجمع البيانات لمصلحة بكين. لكن النماذج المفتوحة يمكن أن توفر بديلاً عن الثقة العمياء من خلال التدقيق، إذ تستطيع الشركات فحصها، وتجربتها، وحتى تشغيلها داخل بنيتها التحتية الخاصة. والشركات تُظهر بالفعل ثقتها من خلال إنفاق أموالها على هذه النماذج. وحتى الباحثون المدعومون من الحكومات، من سنغافورة إلى السعودية، يبنون نماذجهم استناداً على منتجات الذكاء الاصطناعي الصينية.

اختبار أمان "ديب سيك"

درست وكالة أبحاث الدفاع السويدية في وقت سابق من العام الجاري ما إذا كان يمكن الوثوق بـ"ديب سيك" في الإدارة العامة. ولم تجد أي أبواب خلفية تقنية أو وظائف مضللة، باستثناء "الردود النمطية" بشأن السياسة الخارجية الصينية أو الموضوعات المتعلقة بالحزب الشيوعي ،وخلُصت إلى إمكانية استخدام نماذج "ديب سيك" في البيئات الحكومية إذا خضعت لتحليل أمني محلي وعُدلت بما يتناسب مع المجال المستهدف. لكن الوكالة لم توص باستخدام خدمة الويب العامة أو تطبيق الهاتف المحمول التابعين للشركة، ومقرها هانجتشو، في الأعمال الحكومية.

بعبارة أخرى، استخدام "ديب سيك" لا يعادل تسليم بياناتك إلى بكين. شغّل النموذج على خوادمك المحلية أو أجهزتك الخاصة، سواء في ستوكهولم أو فرجينيا، ويمكن أن تظل المعلومات داخل شبكتك. لكن إذا كان موظفك يستخدم تطبيق المستهلكين سراً، فهذه قصة مختلفة.

تقدم شركة "كوجنيشن إيه آي" (Cognition AI) مثالاً عملياً مفيداً. فقد طورت الشركة الناشئة المتخصصة في البرمجة، التي من المقرر أن يصل تقييمها إلى 47 مليار دولار في أحدث جولة تمويل لها، أحد أبرز نماذجها، "SWE-1.7"، بالاعتماد على "كيمي K2.7" (Kimi K2.7)، وهو نموذج أساسي مفتوح الأوزان من شركة "مون شوت" (Moonshot) ومقرها بكين.

وتبيع الشركة، ومقرها سان فرانسيسكو، أدوات برمجة ذاتية التشغيل إلى مؤسسات مالية كبرى ووكالات حكومية، ما يجعل الثقة ضرورة تجارية. لذلك وضعت تقييماً من جزأين يغطي الدعاية والرقابة، وكذلك الأمن والثغرات. وبعد تدريب لاحق مستقل، وجدت "كوجنيشن" أن أداء نموذجها في تلك الاختبارات جاء متماشياً مع أبرز النماذج الأمريكية.

التدقيق معيار موثوقية النماذج

لا شك أن المخاوف الأساسية حقيقية، فقد وجد باحثون في شركة "كراود سترايك" (CrowdStrike) العام الماضي أن نموذج "R1" من "ديب سيك" أنتج شيفرات برمجية تتضمن ثغرات أمنية عندما تتلقى أوامر يعتبرها الحزب الشيوعي حساسة سياسياً، مثل الإشارة إلى جماعة فالون جونج والتبت.

لكن عندما حاولت "كوجنيشن" إعادة إنتاج ذلك السلوك على نماذج أحدث وعلى أداتها المخصصة المبنية على نظام الذكاء الاصطناعي الصيني، وجدت أن استخدام الكلمات المحفزة لاستدراج استجابة مختلفة لم يُحدث فرقاً ذا دلالة إحصائية في سلوك النماذج. هل يعني ذلك أن الذكاء الاصطناعي الصيني جدير بالثقة بطبيعته؟ بالطبع لا. لكنه يوضح أن بلد المنشأ ليست مؤشراً جيداً على الموثوقية. وما يهم أكثر هو ما إذا كان يمكن إخضاع النموذج لتدقيق مستقل، إذ يتيح إطار العمل الأفضل إجراء عمليات تحقق. فإذا كان بإمكانك التحقق بنفسك وبشكل مستقل، فلست مضطراً إلى أخذ كلام أي شركة على محمل الثقة.

يميل المطورون الأمريكيون الذين يستخدمون نماذج الذكاء الاصطناعي الصينية إلى طرح النقطة نفسها. ويقول كثيرون ممن تحدثت إليهم إنهم يشعرون براحة أكبر مع نموذج مفتوح المصدر من الصين، تحديداً لأنه يمنحهم سيطرة أكبر. فالحاجة إلى أخذ كلام الشركة على محمل الثقة تصبح أقل، ويمكنهم تنزيل النموذج، واختباره، وتعديله، وضبطه بدقة، ثم تشغيله في بيئة مغلقة لا تغادر فيها البيانات الحساسة أنظمتهم مطلقاً.

أما البديل فهو الثقة المؤسسية؛ أي مطالبة الشركات بوضع ثقتها الكاملة في شركات الذكاء الاصطناعي الأمريكية المغلقة كي تتعامل مع بياناتها بالطريقة الصحيحة (بدلاً من استخدامها لتدريب منافسين) وكي تحافظ على أمن الأنظمة، وتضمن بقاء المخرجات ضمن حدود أيديولوجية مقبولة.

الشفافية أساس حوكمة الذكاء الاصطناعي

حتى الآن، تقدم شركات الذكاء الاصطناعي الصينية طرحاً معاكساً: "لستم مضطرين إلى الوثوق بنا. لكن يمكنكم تنزيل أوزان نماذجنا، ووضعها داخل شبكتكم، وفحصها بأنفسكم". ويبقى أن نرى ما إذا كانت بكين ستواصل دعم هذا النهج إذا هدد سيطرتها على المعلومات.

في الوقت الحالي، قد يثبت هذا الإطار أنه أكثر استدامة. ووجدت دراسة نشرتها مجلة "نيتشر" (Nature) أن نماذج اللغة الكبيرة تميل إلى عكس أيديولوجية مطوريها، سواء صُنعت في ماونتن فيو أو شينزين. وينبغي للجهات التنظيمية أن تقلل تركيزها على فرض رؤية عالمية يُفترض أنها محايدة، وأن تركز بدرجة أكبر على الإفصاح والشفافية.

والمفارقة أن الثقة تتحول بصورة متزايدة إلى مشكلة تواجه الذكاء الاصطناعي الأمريكي أيضاً. وقد يشكل ذلك عائقاً أكبر أمام تبني التكنولوجيا مقارنة بالصين. وقال نحو 87% من المشاركين في الصين إنهم يثقون بالذكاء الاصطناعي، مقابل 32% فقط في الولايات المتحدة، وفق لاستطلاع أجرته شركة "إدلمان" (Edelman) ونُشر في أكتوبر الماضي. ووجد الاستطلاع نفسه أن انعدام الثقة يمثل عائقاً أكبر أمام استخدام الذكاء الاصطناعي من الدافع أو إمكانية الوصول أو الثقة بالقدرة على استخدامه.

لدينا نحن الصحفيين مقولة قديمة: "إذا قالت لك والدتك إنها تحبك، فتحقق من ذلك من مصدر ثانٍ". وينبغي لمطوري الذكاء الاصطناعي والجهات التنظيمية تطبيق المبدأ نفسه. فالثقة في تكنولوجيا بهذا القدر من التأثير ينبغي أن تعتمد على أنظمة يمكن فحصها واختبارها واحتواؤها، بما يمنح المستخدمين أدلة بدلاً من التطمينات. وأفضل إطار للحوكمة هو الذي لا يطلب منا أن نثق بشركة أو دولة بعينها، بل يتيح لنا التحقق بأنفسنا بحيث لا نضطر إلى الاعتماد على الثقة من الأساس.

فإذا قالت شركة "أنثروبيك" أو "ديب سيك": "يمكنكم الوثوق بنا"، اطلبوا الدليل.

كاتبة عمود في بلومبرغ تغطي التكنولوجيا الآسيوية مراسلة تقنية في CNN وABC News.

خاص بـ"الشرق بلومبرغ"