FINANCIAL TIMES

الحواسيب الناطقة والأخبار الكاذبة

حين تخاطبنا الحواسيب بلغتنا، فهل سنكون قادرين على الوثوق بها؟
يحذر شون جورلي، الرئيس التنفيذي للشركة الناشئة برايمر، من أن الأنظمة التي تستطيع معالجة وتوليد اللغة آليا سوف تكون محركات ممتازة للأخبار الكاذبة.
سوف يكون من السهل تعليم هذه الأنظمة إنشاء عوالم كاذبة من خلال تدريبها على المعلومات الحقيقية، وحقن عناصر كاذبة في المزيج.
يقول جورلي إن القدرة على اكتشاف هذا النوع من التضليل في المعلومات سوف تأتي من تتبع أصلها والطريقة التي تنتشر بها ضمن إحدى الشبكات، في الوقت الذي يستجيب لها أناس مختلفون.
ويضيف: "الأخبار الكاذبة لديها إشارة مختلفة". النمط الذي تُخلفه الطريقة التي يتشارك بها الناس هذه الأخبار، والطريقة التي تنتشر بها، مختلفة عن النمط الذي تخلفه المعلومات الحقيقية.
هناك مشكلة أعمق يمكن أن تنشأ من قيام الحواسيب بمحاكاة التحيزات التي تظهر لدى جميع بين الإنسان، وكثير منها مشفر ضمن اللغة.
الكمبيوتر الذي يحاول إنشاء نموذج لعالم قائم على تفاعلات مكثفة مع الناس معرض لخطر أن يكون "عرضة لنفس التحيزات، وعوامل الإبهام والنقص التي يتعرض لها الناس"، كما يقول فيروتشي.
في واحد من أشهر الأمثلة على هذا النوع من التحيز الخوارزمي، مجموعة بروبوبليكا، المختصة بصحافة التحقيقات، ادعت في السنة الماضية أنها عثرت على تشويهات في البرنامج الذي تستخدمه المحاكم الأمريكية لمساعدتها في تقرير إطلاق أو عدم إطلاق سراح السجناء بكفالة. أظهر النظام تحيزا ضد السود، وفقا لما تقوله بروبوبليكا.
حين نتعلم كيف نضع أيدينا على جوانب القصور المذكورة وتصحيحها، فإن هذا من شأنه أن يكون ضروريا لضمان ألا تقوم الآلات الذكية بتضخيم جوانب القصور لدى البشر الذين صنعوا هذه الآلات.
ولربما يؤدي أيضا إلى إنشاء أنظمة قادرة على مساعدة الناس على أن يفهوا بشكل أفضل، جوانب الضعف في نظرتهم أنفسهم إلى العالم.
إنشرها

أضف تعليق

المزيد من FINANCIAL TIMES