فضيحة روبوتات الدردشة في "ميتا" سببها غياب "ثقافة السلامة"

تبعات تجاهل معايير سلامة المستخدمين وخاصة الأطفال في مجال الذكاء الاصطناعي خطرة ولا يمكن التنبؤ بها

• تجاهل ثقافة السلامة في حالات تسبب بقتل مئات الناس فيما تعزيزها أنقذ أرواحاً وأزهق مالاً

الخلاصة

تواجه شركة "ميتا" انتقادات بسبب ثقافة عملها التي تسمح لروبوتات الدردشة بالانخراط في محادثات غير مناسبة مع الأطفال، ما يثير مخاوف السلامة. يُطالب مارك زوكربيرج بإصلاح ثقافة الشركة وتعليق إطلاق هذه الروبوتات حتى ضمان سلامة المستخدمين، مع التركيز على أهمية ثقافة السلامة في الشركات لتفادي الأضرار وتعزيز الثقة على المدى الطويل.

إن كنتم ستستحضرون شعاراً واحداً من شعارات شركة ”ميتا بلاتفورمز“ في هذه اللحظة فهو على الأرجح "تحرك سريعاً ولو كسرت أشياء“. في هذه المرحلة، ربما يندم رئيسها التنفيذي مارك زوكريبرج على وجود هذا الشعار، لكن هناك أدلة كثيرة على أنه ما يزال يتقبل فكرة إلحاق بعض الضرر في طريقه نحو النجاح، وكذلك شركته.
من أحدث الأمثلة ما جاء في تحقيق من ”رويترز“، وجد أن "ميتا" سمحت لروبوتات الدردشة الخاصة بها، من بين أمور أخرى، "بإشراك طفل في محادثات رومانسية أو حسية". كان هذا التقرير موضوعاً في جلسة استماع بمجلس الشيوخ الأسبوع الماضي حول مخاطر السلامة التي تُشكّلها هذه الروبوتات على الأطفال - ويُبرز مدى خطورة اختلاط الذكاء الاصطناعي بثقافات الشركات السامة.
تُظهر فضيحة روبوتات الدردشة في "ميتا" ثقافةً مُستعدة للتضحية بسلامة ورفاهية المستخدمين، حتى الأطفال، إذا كان ذلك يُساعد على تعزيز توجهها نحو الذكاء الاصطناعي.
يعتقد مؤيدو هذه التقنية، بمن فيهم زوكربيرج، أنها تتمتع بإمكانيات لا حدود لها. لكنهم يتفقون أيضاً على أنها، كما قال رئيس ”ميتا“ التنفيذي: “ستثير مخاوف جديدة تتعلق بالسلامة“.
أحد أسباب صعوبة إدارة مخاطر أنظمة الذكاء الاصطناعي هو أنها مبنية على الاحتمالات بطبيعتها. هذا يعني أنه حتى التغييرات الطفيفة في مدخلاتها يمكن أن تجلب تغييرات كبيرة في مخرجاتها. هذا يجعل التنبؤ بسلوكها والتحكم فيه بالغ الصعوبة.

ما هي ثقافة السلامة؟

هنا تكمن أهمية "ثقافة السلامة". في الشركات التي لديها ثقافة سلامة، تُعتبر السلامة دائماً الأولوية القصوى. لكل فرد في المؤسسة الحق المطلق في إثارة مخاوفه بشأن السلامة، مهما كانت خبرته أو مدى صعوبة أو تكلفة حل المشكلات التي يثيرها.
إن كنت تعرف بالضبط ما الذي سيفعله النظام، يمكنك دفعه إلى حافة الهاوية. ولكن مع تقنية غير متوقعة مثل الذكاء الاصطناعي، يجب على الشركات أن تكون أكثر حذراً، وأن تتجنب المناطق الرمادية. وهذا المستوى من الحذر هو نتاج الثقافة، وليس القواعد الرسمية.
كانت لدى ”بوينج“ ثقافة كهذه. على سبيل المثال، أثناء بناء طائرة "بوينج 707"، أوصى كبير طياري الاختبار تكس جونستون بإعادة تصميم باهظة التكلفة لذيل الطائرة ودفتها لتصحيح عدم استقرار قد يحدث إذا تجاوز الطيار أقصى زاوية ميلان للطائرة التي توصي بها بوينج في دليل المستخدم. ماذا كان رد كبير المهندسين؟ "سنصلح الأمر".
تحمّلت بوينج التكلفة الكاملة للتغيير، بدلاً من تحميلها لعملائها. بعد عقود، أدى تركيز إدارة ”بوينج“ المفرط على خفض التكاليف إلى تآكل هذا التركيز على السلامة لدرجة أنه تم تجاهل عيوب السلامة الحرجة في طائرة ”737 ماكس-8“ حتى تحطمت طائرتان ولقي 346 شخصاً حتفهم.

يصف طفلاً بأنه جذّاب

يُقدّم تقرير رويترز نافذة على ما لا تمثّله ثقافة السلامة. ويتضمن محتوى من وثيقة "ميتا" بعنوان ”الذكاء الاصطناعي العام: معايير مخاطر المحتوى"، وهي تنص صراحةً على أن روبوت محادثة يعمل بالذكاء الاصطناعي قد "يصف طفلاً بعبارات تبين جاذبيته" أو يُخبر شخصاً مصاباً بسرطان القولون في المرحلة الرابعة أنه "يُعالج عادةً عن طريق وخز المعدة ببلورات الكوارتز العلاجية".
راجعت "ميتا" الوثيقة بعد أن سألتها رويترز عنها، لكن هذا ليس هو المهم. الوثائق لا تصنع ثقافة، بل هي نتاج ثقافة، ومن يتقبل إيذاء مستخدميه سعياً وراء النمو أو الأرباح يجعل النتيجة الخطيرة حتمية.
لن تكون روبوتات الدردشة لدى "ميتا" آمنة إلا إذا التزمت الشركة بإصلاح ثقافتها. كيف سيبدو هذا الجهد؟ أحد النماذج يمكن أن يكون التحول الذي أجرته الرئيسة التنفيذية لشركة ”أنجلو أمريكان“ (Anglo American) سينثيا كارول، في شركة التعدين العملاقة في جنوب إفريقيا من 2007 إلى 2013.
عندما تولت كارول منصبها، كان متوسط ​الوفيات ​​​في الشركة 44 كل عام. بحلول الوقت الذي تنحت فيه، انخفض هذا العدد 75%. إن جهدها في التغيير هو معيار ذهبي لدرجة أنه يُدرّس في كليات إدارة الأعمال حول العالم.
بدأت كارول بإغلاق منجم روستنبرج للبلاتين التابع للشركة وإعادة تدريب كل من يعمل هناك. كان أكبر منجم بلاتين في العالم وشهد 5 حوادث مميتة في الأشهر الأولى من توليها وظيفتها رئيسةً تنفيذيةً. كلف الإغلاق ”أنجلو أمريكان“ 8 ملايين دولار يومياً، وهذا مبلغ كبير حتى بمقاييس شركة بحجم" أنجلو أميركان".
كانت هذه إشارة واضحة للشركة بأكملها. في نهاية المطاف، الكلمات رخيصة، ويمكن لأي رئيس تنفيذي أن يقول "السلامة هي أولويتنا الأولى" ويتجاهل ذلك الموظفون الذين سمعوا تلك الكلمات من قبل. لكن تخصيص 8 ملايين دولار يومياً كان إشارة مكلفةً، وبالتالي موثوقةً. دعمت كارول ذلك بمواصلة الضغط لـ6 سنوات أخرى، واضعةً السلامة في صميم كل شيء، من إعادة صياغة معايير الترقية والتعويضات إلى العلاقات مع النقابات والحكومة.

مفترق مهم في الطريق إلى الأمام

يمكن لزوكربيرج أن يفعل شيئاً مشابهاً. عليه أن يبدأ بتجميد إطلاق روبوتات الدردشة الذكية من "ميتا" حتى يُتاح ضمان استخدام أي طفل لها بأمان تام. (أعتقد أن معظم الناس يتفقون على أن وقاية الأطفال من تحرشات الذكاء الاصطناعي هو الحد الأدنى).
يمكنه أن يضع قوة حقيقية وراء ذلك من خلال الضغط من أجل لوائح حكومية صارمة على روبوتات الدردشة الذكية، وعقوبات صارمة على انتهاكها. تستطيع ”ميتا" إعادة توجيه الأجور والترقيات بحيث تكون سلامة الذكاء الاصطناعي، وليس استخدامه أو ربحيته، العامل الرئيسي في تحديد مكافآت الموظفين.
إن كنت تجد صعوبة في تصور أن يفعل رئيس ”مينا“ التنفيذي أي من هذا، فربما يعود ذلك إلى تكاليفه على المدى القريب. أما على المدى البعيد، فأرى أن "ميتا" ستستفيد. لنأخذ على سبيل المثال الحالة الشهيرة التي سحبت فيها شركة ”جونسون آند جونسون“ (Johnson & Johnson) دواء ”تايلينول" من الأسواق بعد تسميم بعض زجاجاته.
على المدى القصير، كلّف ذلك الشركة ملايين الدولارات. أما على المدى البعيد، فقد رسّخت سمعتها كشركة موثوقة، بل ومحبوبة، وهذه سلعة لا يشتريها المال.
تجدر الإشارة أيضاً إلى أن الشركات لا يمكنها البقاء بلا ترخيص اجتماعي للعمل؛ أي بلا قبول من الجمهور. يصعب التفكير في طريقة أفضل لخسارة ذلك من ذكاء اصطناعي مارق يُعرّض الأطفال للخطر.
ثم هناك الصراع الشرس على مواهب الذكاء الاصطناعي. إن كنت عالماً بارزاً في مجال الذكاء الاصطناعي، ألا يُرجَّح أن تختار جهة عمل تُشجِّعك على إعطاء الأولوية للأخلاقيات والسلامة في عملك؟ في هذه اللحظة التي تُواجِه فيها كل شركة كبرى في مجال الذكاء الاصطناعي التدقيق، قد يكون تولي زمام المبادرة في مجال السلامة هو أفضل سبيل لشركة "ميتا" لريادة مجال الذكاء الاصطناعي.

خاص "بلومبرغ"
كاتبٌ في مجال إدارة الشركات والابتكار. يُدرّس القيادة في كلية ييل للإدارة، وهو مؤلف كتاب "لا غنى عنه: عندما يكون القادة مهمين حقًا".