مارك فادول

الخوارزميات ليست محايدة عندما يتعلق الأمر بالقيم. ومع ذلك، لأكثر من عقد من الزمن حتى الآن، سمحنا لشركات التكنولوجيا الكبرى باستخدامها كحراس بوابات لنظامنا البيئي المعلوماتي، دون أن نطالب بالشفافية أو المساءلة في المقابل. وراوحت العواقب بين تضخيم المحتوى الاستقطابي المولع بالإثارة، والإعلانات الشخصية الـمُقَنَّعة، وانتشار السلوكيات الاحتكارية، وأشكال التأثير في الخطاب العام التي تتعارض مع التداول الديمقراطي.

ورغم أننا تعلمنا بالطريقة الصعبة ما الذي قد يحدث عندما تُـسَلَّم البنية الأساسية الـحَرِجة للمعلومات لمصالح الشركات دون رقابة، فإننا نكرر الآن ذات الخطأ مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ــ وقد تكون المخاطر أعظم كثيرا. لا تعمل روبوتات الدردشة ببساطة على حفظ أو تنظيم المعلومات الموجودة؛ بل تنشئها وتصوغها.

وتقرر فيسبوك وجوجل أي المقالات الإخبارية يعرضانها لك، في حين تعمل أدوات مثل ChatGPT، وClaude، وGemini على توليف تلك المعلومات في هيئة إجابات تبدو جديرة بالثقة.

هذا التمييز مهم، لأن التحول من منسق إلى محرر يجعل التأثير غير المبرر أقل وضوحا وأشد خبثا. نحن مرة أخرى نتنازل عن سلطة غير مسبوقة على بنية المستقبل الأساسية للمعلومات لصالح شركات خاصة، دون حتى المطالبة برقابة مستقلة.

التهديد الأكثر إلحاحا ليس أن أنظمة الذكاء الاصطناعي هذه قد تتمرد أو تخرج عن السيطرة، بل أن حفنة من الأطراف ذات المصالح الذاتية تتحول بسرعة إلى حراس لبوابات المعلومات التي تتداولها حصة ضخمة ومتنامية من السكان.

روبوتات الدردشة الحالية ليست مجرد نماذج لغوية ضخمة (LLMs). بل تستند إلى طبقات خوارزمية غامضة عديدة تدخل في تطور النموذج ونشره، وكل منها من الممكن أن تعمل كنقطة دخول للمنصات أو الأطراف الأخرى لتشكيل المعلومات وفقا لمصالحها.

تتألف "مجموعة التأثير الخوارزمي" هذه من خمس طبقات على الأقل. الأولى هي تنظيم بيانات التدريب. عند تحديد البيانات التي يجب تضمينها أو استبعادها أثناء التدريب، تتخذ المنصات قرارات غامضة بشأن المصادر، وكيفية تقييم وجهات النظر المختلفة، والمحتوى الذي يجب تصفيته.

ثم تشكل هذه الاختيارات النظرة العالمية للنموذج. على سبيل المثال، في أكتوبر 2025، أطلق إيلون ماسك موسوعة Grokipedia لتوفير بيانات التدريب لروبوت الدردشة Grok الخاص به.

إنها موسوعة تسيطر عليها الشركات، والغرض منها هو توفير بديل لويكيبيديا "مناهض لحركة اليقظة" ونموذج الحوكمة المجتمعية الذي تعمل بموجبه، والذي عمل لفترة طويلة كمصدر جدير بالثقة للمعلومات على الإنترنت.

الطبقة الثانية هي التعلم التعزيزي من خلال مردود البشر والذكاء الاصطناعي، وهي العملية التي حولت نماذج اللغة الضخمة من مولدات نصوص متغيرة المزاج إلى "مساعدين" قابلين للاستخدام. أثناء مرحلة "ما بعد التدريب" هذه من تطور النموذج، يعمل مراجعون بشريون على تقييم المخرجات لتوجيه النظام نحو السلوكيات المرغوبة، مثل المساعدة أو التأدب.

في الوقت الحالي، تظل هذه التقييمات البشرية تشكل جزءا رئيسيا غير مرئي إلى حد كبير من صناعة الذكاء الاصطناعي. لكنها تُستَبدل على نحو متزايد "بمعلمين" متخصصين من صُنع الذكاء الاصطناعي من المفترض أن يعملوا على مواءمة النموذج الأساسي مع مبادئ محددة سلفا جرى ترميزها في "دستور".

الطبقة الثالثة هي البحث على شبكة الإنترنت. عندما تبحث روبوتات الدردشة عبر الإنترنت أو تصل إلى قواعد البيانات الرقمية، تحدد أنظمة التوليد المعزز بالاسترجاع (RAG) أجزاء المعلومات التي يجب إدخالها في استجابة النموذج. تعكس هذه الوظيفة نظيراتها لدى محركات البحث التقليدية، التي تعطي الأولوية لمصادر بعينها على حساب مصادر أخرى.

وكما هي الحال مع محركات البحث، فإن إدخال الإعلانات في استجابات روبوتات الدردشة ــ وهو ما أعلنه روبوت الدردشة ChatGPT لعام 2026 ــ سيثير مخاوف إضافية بشأن الموضوعية.

تشمل الطبقة الرابعة مُدخلات النظام. لأن هذه المدخلات تبدأ العمل عندما ينشئ روبوت الدردشة إجابة، فإنها تسمح للمنصات بتعديل سلوك روبوت الدردشة دون إعادة تدريبه. على سبيل المثال، لأن مدخلات نظام Grok نُشِرَت علنا العام الماضي، فإننا نعلم أنها تتضمن توجيهات مثل "لا تتردد في الإدلاء بادعاءات غير قويمة سياسيا". (يستخدم ChatGPT، وClaude، وGemini أيضا مدخلات النظام، لكنها تظل سرية).

الطبقة الأخيرة هي مرشحات الأمان. قبل أن يصل استفسار روبوت الدردشة إلى النموذج، تحدد مرشحات الإدخال ما إذا كان "مقبولا". على نحو مماثل، بعد أن يولد النموذج استجابة، تستطيع مرشحات الإخراج تعديل المحتوى، أو مراقبته، أو تنقيته قبل أن تراه أنت.

في حين إن المنصات لديها أسباب مشروعة لحجب استفسارات معينة (كتلك التي تسعى للحصول على تعليمات حول كيفية صنع قنبلة)، فإن حقيقة أن هذه المرشحات غير شفافة تترك أسئلة مفتوحة. يستطيع مطورو النماذج إنشاء بنية أساسية للرقابة المنهجية، ولن ندرك ذلك. تعمل مرشحات "الأمان" في روبوتات الدردشة الصينية على حجب كل الإشارات إلى مذبحة ساحة السلام السماوي (Tiananmen Square).

في الصيف الماضي، اكتشفت وكالة رويترز أن شركة ميتا حَدَّثَت إرشادات الذكاء الاصطناعي الداخلية لديها لتخفيف التدابير الوقائية التي تمنع روبوتات الدردشة التابعة لها من الإدلاء بتصريحات عنصرية أو الانخراط في سلوك "غزلي" مع قاصرين، بين أمور أخرى.

لقد أثبت التلاعب السياسي من خلال روبوتات الدردشة فاعليته بالفعل. أظهرت دراسة نشرتها مجلة Nature عام 2025 أن روبوتات الدردشة المدربة على الدفاع عن مرشح بعينه يمكنها التأثير في الناخبين المعتدلين والمترددين (المجموعات التي تحدد نتيجة معظم الانتخابات) بسهولة ملحوظة.

في ديسمبر الماضي، فرضت المفوضية الأوروبية غرامة قدرها 120 مليون يورو (138 مليون دولار) على منصة X لأنها "خرقت التزاماتها بالشفافية بموجب قانون الخدمات الرقمية". وكما كان متوقعا، صَوَّرَت X والمدافعون عنها هذه الخطوة على أنها هجوم على حرية التعبير. لكن الشفافية أساسية للدفاع عن حرية التعبير. في غيابها، لا نستطيع أن نعرف مَن يُـراقَب أو ما هي أشكال النفوذ التي تُـمارَس على وسائل الإعلام التي نستهلكها جميعا.

لقد تعلمنا من صعود وسائط التواصل الاجتماعي ما الذي قد يحدث عندما تتأخر الـمُساءلة عن تبني الوسائط. ونحن لا نملك ترف تكرار الأخطاء ذاتها مع أنظمة تتمتع بقدر أعظم من السلطة والنفوذ على المعرفة العامة.

مدير شركة AI Forensics ومؤسسها الـمُشارِك.

خاص بـ "الاقتصادية"

حقوق النشر: بروجيكت سنديكيت، 2026.

www.project-syndicate.org