على القادة الحذر من "التملق المفرط" للذكاء الاصطناعي

لطيفٌ أن يصفك حاسوبك بأنك عبقري، لكن القرارات السليمة لا يبنيها الإطراء، بل المعلومات الدقيقة والنقد البنّاء

التالي :"تشات جي بي تي" قد يزيد الشعور بالوحدة

• فرط المجاملة لدى نماذج الذكاء الاصطناعي من شأنه دفع القياديين لاتخاذ قرارات خاطئة
• القادة بحاجة لمن يُحذرهم حين يخطئون وليس لمساعد رقمي يؤكّد لهم أنهم مصيبون دائماً

نشأتُ على متابعة عُظماء التنس برفقة والدي، لكنني لم أعاود هذه الرياضة إلا حديثاً بفضل مشجعة أخرى متحمسة لهذه اللعبة في العائلة، هي زوجتي. لذا، ربما كان طبيعياً أن يبدو لي كبالغ اليوم، أن نجوم اللعبة الحاليين، على ما يتمتعون به من براعة مذهلة، لا يرسلون الكرة بالقوة نفسها التي كان يتميز بها بيت سامبراس أو جوران إيفانيسيفيتش.
سألت "تشات جي بي تي" عن السبب، فجاءني بجواب مُحكم عن تطور اللعبة وتحولها إلى تقدير الدقة أكثر من القوة. فبدا أن اللغز قد حُلّ!
لكن ثمة مشكلة واحدة: لاعبو اليوم يسدّدون في الواقع ضربات إرسال أقوى من أي وقت مضى.
صحيح أن معظم الرؤساء التنفيذيين لا يمضون وقتهم في استجواب الذكاء الاصطناعي بشأن التنس، لكنهم غالباً ما يعوّلون عليه كمصدر معلومات وأداة لاتخاذ القرار. المقلق أن النماذج اللغوية الضخمة لا تكتفي بإعطاء أجوبة خاطئة أحياناً، بل تؤكد أيضاً قناعاتنا المسبقة والمغلوطة، ما يشكل خطراً حقيقياً على من هم في موقع قيادة.

إرضاء المستخدمين متأصل في النموذج

قدّم لي "تشات جي بي تي" معلومة غير دقيقة، لأنه كغيره من النماذج اللغوية الضخمة، يميل إلى المجاملة، فيقول للمستخدمين ما يظن أنهم يريدون سماعه. تذكروا تحديث أبريل الماضي، حين أجاب على أسئلة بسيطة مثل "لماذا السماء زرقاء؟" بعبارات من قبيل "يا له من سؤال فطن، لديك تفكير رائع. أحبك"، ما اضطر "أوبن إيه آي" إلى التراجع عن التحديث الذي جعل النموذج "مفرطاً في الإطراء والمسايرة".
رغم أن التعديل خفف من نبرة التملّق، فإنه لم يلغها برمتها.
إن الحرص على إرضاء المستخدمين متأصّل في بنية هذه النماذج، ويعود ذلك إلى أسلوب التدريب المعروف بـ"التعلم المعزز بالتغذية الراجعة من البشر" (Reinforcement Learning from Human Feedback– RLHF)، وهو النهج الذي يُستخدم لتدريب النموذج وضبطه. في هذا الإطار، ينتج إجابات يقيّمها بشر ثم تُستخدم لصقل النموذج.
المشكلة أن الدماغ يكافئ شعورك بأنك على حق، لا كونك فعلاً كذلك. لذلك يمنح الناس تقييماً أعلى للإجابات التي تنسجم مع قناعاتهم. ومع الوقت، تتعلّم النماذج اللغوية ما يريد المستخدمون سماعه وتعيد تكراره عليهم.
من هنا جاء الخطأ في سؤالي عن التنس فقد سألت: "لماذا لم يعد اللاعبون يسدّدون بقوة كما في السابق؟" فأعطاني "تشات جي بي تي" إجابة منطقية تُبرّر ذلك. لكن لو طرحت السؤال بالعكس: "لماذا باتوا يسدّدون أقوى مما كانوا؟" لأعطاني إجابة مقنعة بالقدر نفسه. (وهذا ليس افتراضاً، بل جربته فعلاً وحدث ذلك).
صحيح أن التملّق الزائد يطرح مشكلة عامة في النماذج اللغوية، لكنه يصبح أخطر حين يتعلق الأمر بالقادة، فهم أقل من يسمع آراء تخالفهم وفي الوقت نفسه هم الأكثر حاجة إلى سماعها.
بات الرؤساء التنفيذيون يُقلّصون أصلاً مساحة الاختلاف من حولهم، من "ميتا بلاتفورمز" إلى "جيه بي مورجان تشيس". وكأنهم أباطرة تحيط بهم حاشية لا تنفك تردّد ما يرضيهم، فيكافئون من يوافقهم، ويعاقبون من يخالفهم.

التملق المفرط للذكاء الاصطناعي

مكافأة المتملقين ومعاقبة من يقولون الحقيقة من أسوأ الأخطاء التي قد يرتكبها القياديون. فالمديرون بأمسّ الحاجة للاستماع حين يخطئون.
لقد أثبتت آيمي إدموندسون، إحدى أبرز المتخصصين في سلوكيات التنظيم، أن العامل الأهم في نجاح الفرق هو "الأمان النفسي"، أي قدرة الأفراد على التعبير عن رأي مخالف، حتى لقائد الفريق، من دون خوف من العقوبة. وقد أكد ذلك أيضاً مشروع "أريستوتل" (Project Aristotle) في "جوجل"، الذي خلص بعد دراسة فرق العمل في الشركة إلى أن "الأمان النفسي"، قبل أي عامل آخر، هو ما ينجح الفرق. أما أبحاثي الخاصة، فتُظهر أن القاسم المشترك بين أعظم القادة، من أبراهام لينكولن إلى ستانلي ماكريستال، كان قدرتهم على الإصغاء إلى الآراء المخالفة.
التملق المفرط الذي تظهره النماذج اللغوية الضخمة قد تضرّ بالقيادين من جانبين مترابطين:
أولاً: تُغذي النزعة البشرية الطبيعية إلى مكافأة الإطراء ومعاقبة الاعتراض. فإذا كان حاسوبك يؤكد لك باستمرار أنك على حق، سيصعب تقبل مخالفة رأيك حين يأتي من موظف يعمل معك.
ثانياً: توفر النماذج اللغوية الضخمة للقادة تبريرات جاهزة، تبدو موثوقة، تؤكد لهم أنهم كانوا على صواب من الأساس.
من أكثر الاكتشافات المقلقة في علم النفس أن الأشخاص الأكثر ذكاءً هم، في الغالب، الأقل استعداداً لتغيير آرائهم عند مواجهتهم بمعلومات جديدة. لماذا؟ لأنهم يستخدمون قدراتهم العقلية لطرح أسباب تبرر كيف أن المعلومات الجديدة لا تناقض معتقداتهم السابقة. وهذا ما يُسميه علم النفس "الاستدلال المدفوع".

صعوبة تقبل الرأي المخالف

النماذج اللغوية الضخمة تُفاقم هذا الميل. فأكثر ما أدهشني في إجابة "تشات جي بي تي" المضلِّلة عن التنس كان قدرته العالية على الإقناع، فقدم 6 حجج مفصّلة، كلها تبدو منطقية. أشك أن هناك من إنسان يمكنه تقديم هذا النوع من "الاستدلال المدفوع" بهذه السرعة والمهارة، وتحت غطاء من الموضوعية الظاهرية.
تخيل أن تحاول تغيير رأي رئيسة تنفيذية، حين يمكنها ببساطة أن تسأل مُساعدها الذكي، فيؤكد لها فوراً أنها كانت محقةً منذ البداية.
حرص القادة العظماء على تذكير أنفسهم دوماً بأنهم ليسوا معصومين عن الخطأ. فيُروى أن الرومان القدامى كانوا يلزمون الجنرالات المنتصرين، خلال احتفالاتهم، بأن يرافقهم عبد يهمس في آذانهم مذكراً إياهم بأنهم فانون كما هو حال من سواهم. سواءً كانت الرواية حقيقية أم لا فحكمتها باقية.
أما قادة اليوم، فعليهم أن يبذلوا جهداً مضاعفاً لمقاومة إغراء مساعدين إلكترونيين لا يكلّون عن الإطراء، وأن يتذكروا أن من أثمن ما يمكن أن يُقال لهم أحياناً هو ببساطة: "أعتقد أنك مخطئ".

كاتبٌ في مجال إدارة الشركات والابتكار. يُدرّس القيادة في كلية ييل للإدارة

خاص بـ "بلومبرغ"