الذكاء الاصطناعي .. يفرض التعايش السلس مع الروبوت

على الرغم من المظاهر التي تدل على العكس، إلا أن الجنس البشري ليس على كومة المهملات.
أو على الأقل حتى الآن. لم يكن هناك نقص في التنبؤات في السنوات الأخيرة من أن التقدم في الذكاء الاصطناعي والروبوتات، سيشهد استبدالا للبشر في جميع أنواع الوظائف.
على أن معظم خبراء الذكاء الاصطناعي يرون ناتجا أقل تطرفا. في هذه النسخة من المستقبل، سيظل الناس يلعبون دورًا في العمل جنبًا إلى جنب مع الأنظمة الذكية: إما أن التكنولوجيا لن تكون جيدة بما يكفي لتولي المسؤولية بالكامل، وإما أنه ستكون للقرارات عواقب إنسانية أكثر أهمية من أن يتم تسليمها بالكامل إلى آلة.
يجب أن ينتج عن عملية صنع القرار المهجنة هذه نتائج أفضل من أن يعمل كل طرف بمفرده، وفقاً لما قاله ديفيد مايندل، الأستاذ في معهد ماساتشيوستس للتكنولوجيا ومؤلف كتاب "روبوتاتنا، أنفسنا".
هناك مشكلة واحدة فقط: عندما يحاول البشر وشبه الأنظمة الذكية العمل معًا، لا تسير الأمور دائمًا بشكل جيد.
برهان كارثي على هذا الأمر وقع في شوارع تيمبي، أريزونا، هذا العام. دهست سيارة اختبار تابعة لشركة أوبر مجهزة بأحدث تقنيات القيادة الذاتية للشركة شخصا وقتلته، وهو يقطع الطريق.
مثل جميع السيارات المستقلة اليوم، كان هناك سائق احتياطي ليتدخل إذا فشلت البرامج. على أن تحليلاً أجرته الشرطة المحلية توصل إلى أن السائق كان مشتت الانتباه في ذلك الوقت، وربما كان يشاهد برنامجًا تلفزيونيًا على هاتف ذكي.
كانت سيارة "أوبر" تعتمد على درجة من الاستقلالية التي من المقرر إطلاقها على نطاق أوسع العام المقبل. تم تصميم نظام يطلق عليه اسم نظام المستوى 3 ليقود نفسه في معظم المواقف، لكنه يسلِّم التحكم اليدوي إلى الإنسان عندما يواجه أوضاعًا لا يستطيع التعامل معها.
يقول المنتقدون إن نظاما من المفترض أن يكون مستقلاً بشكل كامل، لكنه ينحرف فجأة يضع مطالب غير واقعية على البشر.
يقول ستيفان هيك، الرئيس التنفيذي لشركة ناوتو، وهي شركة أمريكية ناشئة تستخدم تقنياتها لمنع السائقين المحترفين من أن يصبحوا مشتتين: "إذا كانت هناك حاجة إليك فقط لدقيقة واحدة في اليوم، فلن ينجح ذلك. الأمر غريب بشكل لا يمكن تصنيفه".
يشير الفشل إلى وجود مأزق في اعتماد الذكاء الاصطناعي، وهو مأزق يصل إلى ما هو أبعد كثيرا من السيارات من دون سائق. بدون تصميم دقيق، يمكن للأنظمة الذكية التي تشق طريقها إلى العالم أن تثير رد فعل عنيف ضد هذه التكنولوجيا.
بمجرد أن يفهم الناس مدى محدودية أنظمة التعلم الآلي اليوم، فإن الآمال المبالغ فيها التي أثارتها هذه الأنظمة ستتبخر بسرعة، كما يحذر روجر شانك، وهو خبير في الذكاء الاصطناعي متخصص في سيكولوجية التعلم.
ويتوقع أن تكون النتيجة "شتاء جديدا للذكاء الاصطناعي" - في إشارة إلى الفترة في أواخر الثمانينيات، عندما أدت خيبة الأمل في تقدم التكنولوجيا إلى التراجع عن هذا المجال.
منع ذلك سيتطلب توقعات أكثر واقعية من الأنظمة الجديدة المستقلة، إضافة إلى تصميم دقيق للتأكد من أنها تنسجم مع العالم البشري. غير أن التكنولوجيا نفسها تمثل حاجزًا خطيرًا.
يقول إلاهي نوربخش، أستاذ علم الروبوتات في جامعة كارنيجي ميلون: "الطريقة التي يعمل بها الذكاء الاصطناعي، والطريقة التي يفشل بها غريبة علينا. هل يجعلنا الذكاء الاصطناعي نشعر بمزيد من المشاركة - أم هل هو مثل التعامل مع كائنات من الفضاء؟".
السيارة شبه الذاتية نموذج صارخ بشكل خاص لنظام شبه مستقل يعتمد على التعاون الوثيق مع الناس. مع تقدم الذكاء الاصطناعي، فإن الأنظمة الهجينة مثل هذه تتسلل إلى كثير من المواقف المختلفة.
التعلم الآلي - الذكاء الاصطناعي من النوع الذي يقف وراء أعجب التطورات في هذا المجال - هو شكل متقدم من التعرف على الأنماط. وقد أثبت حتى الآن أنه متفوق على البشر في المهام مثل تحديد الصور في الصور الفوتوغرافية أو التعرف على الكلام.
إلا أنه أقل فعالية عندما يتعين عليه إصدار أحكام تستند إلى البيانات المحددة التي تم تدريبه عليها. في العالم الواقعي، غالباً ما يتخذ الناس قرارات حول أوضاع لم يسبق لهم مواجهتها.
تكمن المشكلة في الأنظمة التي يمكن أن تُوفق بين البيانات، لكن دون أن تفهم دلالتها. يقول فيشال سيكا، وهو مدير سابق في "ساب" وتنفيذي في "إنفوسيس" متخصص في الذكاء الاصطناعي: "هذه أشياء تتمتع بقوة كبيرة، ولكن ليس لديها إحساس بالعالم".
الأشكال الجديدة للتعاون بين البشر والآلة تضرب بجذور عميقة بثلاث طرق رئيسة. أولاً، هناك سيناريوهات يعمل فيها البشر كدعم أو احتياط للروبوتات، ويتولوا زمام الأمور عندما تصل الآلات إلى حدود قدراتها.
يعاد تصميم كثير من عمليات العمل بهذه الطريقة - مثل مراكز الاتصال المؤتمتة، حيث تحاول أنظمة فهم اللغة التعامل مع استعلامات المتصلين، أو يتم الرجوع إلى المشغل البشري فقط، عندما يختلط الأمر على هذه التكنولوجيا.
كان حادث تحطم سيارة أوبر مثالاً صارخًا لما يمكن أن يحدث بشكل خاطئ. وكما يقول هيك، أظهر بحث من جامعة ستانفورد أن الأمر يستغرق ما لا يقل عن ست ثوان، حتى يتمكن السائق البشري من استعادة وعيه واستعادة السيطرة على المركبة.
حتى عندما يكون هناك ما يكفي من الوقت لاستعادة لفت الانتباه البشري، فإن الشخص الذي يتدخل في موقف ما قد يرى الأشياء بشكل مختلف عن الآلة، ما يجعل عملية التسليم بعيدة عن أن تكون سلسة.
يقول سيكا: "نحن بحاجة إلى العمل على أساس معنى مشترك بين أنظمة البرمجيات والناس - هذه مشكلة صعبة للغاية". استخدام اللغة يسلط الضوء على هذه الصعوبة. وكما يضيف سيكا، يمكن للبشر أن ينقلوا المعنى للآخرين باستخدام كلمات قليلة: الفهم المشترك للسياق بين المتحدث والمستمع يضفي المعنى على هذه الكلمات. ويضيف أن علماء الكمبيوتر لم يتوصلوا بعد إلى كيفية إنشاء هذا الفهم المشترك في الآلات.
تم تصميم نوع ثان من التعاون بين البشر والآلة للتأكد من أن المهمة الحساسة تعتمد دائمًا على شخص ما - حتى في المواقف التي يكون فيها النظام الآلي قد قام بكل الأعمال التحضيرية، وقادر تمامًا على إكمال المهمة بنفسه.
الطائرات العسكرية من دون طيار، حيث يتم استدعاء "الطيارين" البشر، الذين غالباً ما يكونون على بعد آلاف الأميال، لاتخاذ قرار إطلاق النار على الهدف، مثال على ذلك.
أنظمة التعرف على الوجه - المستخدمة لمساعدة ضباط الهجرة على تحديد المسافرين المشتبه بهم - أمثلة أخرى.
كلاهما يظهران كيف أن الذكاء الاصطناعي يمكن أن يجعل البشر أكثر فاعلية بكثير دون أن يحرمهم من السيطرة، كما يقول هيك.
أحد الانتقادات للأسلحة شبه المستقلة مثل الطائرات من دون طيار هو أنه لا توجد عوائق تقنية تحولها إلى أنظمة مستقلة تمامًا. يمكن تغيير الإجراءات والضمانات الحالية بسرعة.
ووفقًا لما قاله ستيوارت راسل، أستاذ الذكاء الاصطناعي بجامعة كاليفورنيا في بيركلي، فإن الأمر سيكون خطوة قصيرة وسهلة في حالة الطوارئ الوطنية لإزالة مشغل الطائرات من دون طيار بشري من الحلقة، ما يسفر عن عصر من أسلحة الإنسان الآلي الذي يتخذ قراراته الخاصة متى يُقتَل الناس.
وكما يقول: "لا يمكنك القول إن التكنولوجيا نفسها يمكن استخدامها بطريقة دفاعية فحسب، وتحت السيطرة البشرية. هذا غير صحيح".
هناك نوع أخير من نظام "الإنسان في الحلقة" يتضمن استخدام الذكاء الاصطناعي غير القادر على التعامل مع مهمة بشكل كامل من تلقاء نفسه، ولكن يتم استخدامه كعامل مساعد على صنع القرار البشري.
الخوارزميات التي تعالج البيانات وتقدم التوصيات، أو توجه الأشخاص لاتخاذ الخطوة التالية، تزحف الآن إلى الحياة اليومية.
ومع ذلك، فإن الخوارزميات جيدة بقدر جودة البيانات التي يتم تدريبها عليها - وهي ليست جيدة في التعامل مع المواقف الجديدة. وغالباً ما يُطلب من الأشخاص الذين يحتاجون إلى الثقة بهذه الأنظمة أن يقبلوها كما هي.
يشير شانك إلى دور الخوارزميات في لعبة البيسبول. أدى تحليل نقاط القوة والضعف لكل ضارب للكرة إلى طرق جديدة لإعداد اللعب، وهي طرق يتهيب منها اللاعبون التقليديون في لعبة البيسبول.
ويقول إن نتائج هذه القرارات بمساعدة الكمبيوتر قد ينتهي بها الأمر أسوأ من القرارات المستندة إلى تحليل بشري محض.
وجود خطأ في التطبيق المستخدم من قبل سائقي "أوبر" في سان فرانسيسكو، قادهم إلى قسم الشحن في المطار بدلاً من محطة الركاب.
ويقول تيم أورايلي، مؤلف مختص في التكنولوجيا: "في بعض الأحيان، يتبع الناس الآلة بشكل أعمى، وفي أحيان أخرى سيقول الناس: ’تريث، لا يبدو ذلك صحيحًا‘. إنها مثل كثير من التكنولوجيات الأخرى، سيتكيف الناس معها".
قد تكون هذه الحالات غير ضارة نسبيًا؛ حيث لا يحدث ضرر كبير بسبب القيادة المضللة بواسطة الآلة، ولكن ماذا يحدث عندما تكون المخاطر أكبر؟
جعلت شركة آي بي إم التشخيص الطبي أحد الأهداف الرئيسة لنظام واطسون الذي أنشئ لأول مرة للفوز ببرنامج ألعاب على التلفزيون، ثم أعيدَ توجيهه ليصبح ما يطلق عليه نظاما "أكثر إدراكا" بشكل عام.
تم تصميم هذه الأنظمة بحيث يبقى القرار النهائي بيد خبير. من رأي شركة آي بي إم أن البشر ستكون لهم دائماً الكلمة الأخيرة، على أن مدى سهولة قيام الطبيب بتجاوز توصية يتم تقديمها بواسطة جهاز كمبيوتر، بحكم التعريف، حللت أوضاعا أكثر قابلية للمقارنة، واستوعبت بيانات أكثر مما لديهم؟
قد يكون رفض التكنولوجيا أكثر صعوبة لو كان لديها تأمين أو عواقب مالية أخرى. يقول نوربخش: "يتم وضع الأطباء في وضع يجعلهم يشعرون بالخضوع إلى النظام. مجرد القول إنهم سيستمرون في اتخاذ القرارات لا يجعل الأمر كذلك".
ظهرت مخاوف مماثلة في ثمانينيات القرن العشرين، عندما هيمنت على مجال الذكاء الاصطناعي "النظم الخبيرة" المصممة لتوجيه مستخدميها من خلال "شجرة القرارات" للوصول إلى الإجابة الصحيحة في أي موقف.
لقد تبين أنه من الصعب للغاية توقع كل العوامل غير المتوقعة التي تعقد قرارات العالم الواقعي.
يبدو أن أحدث ذكاء اصطناعي، القائم على التعلم الآلي، سيصبح أكثر اعتمادًا على نطاق واسع، وقد يكون من الصعب استباق طريقة تفكيره. وبفضل نجاحها في المجالات الضيقة مثل التعرف على الصور، فإن التوقعات بشأن هذه الأنظمة آخذة في الارتفاع. كان منشئو المحتوى سعيدين للغاية لتغذية وتشجيع هذا النوع من المبالغة. يقول شانك: "لدينا أقسام تسويق خارجة عن السيطرة". وهو يركز على شركة آي بي إم على وجه الخصوص، بحجة أن الشركة بالغت كثيرا في وعودها فيما يتعلق الأمر بنظام واطسون - وهو نقد كثيرًا ما يُسمع في دوائر الذكاء الاصطناعي.
يدافع داريو جيل، كبير الإداريين التشغيليين في مركز أبحاث آي بي إم، عن قرار إطلاق مبادرة كبيرة حول واطسون منذ نحو ثماني سنوات، معتبراً أنه لم تكن هناك شركات تكنولوجيا أخرى تقوم بهذا الدور المركزي للذكاء الاصطناعي في ذلك الوقت. وأضاف: "لم نكن واضحين بما فيه الكفاية حول الفرق بين الذكاء الاصطناعي العام... والمحدد".
تقييم جودة توصيات نظام الذكاء الاصطناعي يثير تحديات أخرى. قد يشعر غير الخبراء بالتردد في استباق تفكير آلة لا يفهمون آلية عملها.
هذه ليست معضلة جديدة. منذ أكثر من 30 عامًا، أدى خلل برمجي في جهاز علاج إشعاعي يسمى ثيراك-25 Therac-25 إلى إعطاء بعض المرضى جرعات زائدة بشكل هائل.
وقال نوربخش: لم يكن لدى الفنيين أي وسيلة لتحديد الخلل، وظلت الآلة قيد الاستخدام فترة أطول نتيجة لذلك.
تمثل التكنولوجيا المستخدمة في أنظمة التعلم الآلي الأكثر تطوراً، المعروفة باسم الشبكات العصبية، تحديات إضافية. تم تصميمها على أساس نظرية حول كيفية عمل الدماغ البشري، وتمرير البيانات عبر طبقات من الخلايا العصبية الاصطناعية حتى يظهر نمط قابل للتحديد.
على عكس الدوائر المنطقية المستخدمة في برنامج برمجي تقليدي، لا توجد طريقة لتتبع هذه العملية لتحديد لماذا يأتي الكمبيوتر بجواب معين. هذا هو عائق كبير أمام اعتماد الشبكات العصبية.
يقول نوربخش: "هذه هي المفارقة الغريبة في الذكاء الاصطناعي - أفضل الأنظمة هي التي أقل قابلية للتفسير اليوم".
يقول بعض الخبراء إن هناك تقدمًا في العمل، وإنه لن يمر وقت طويل قبل أن تتمكن أنظمة التعلم الآلي من الإشارة إلى العوامل التي تؤدي بها إلى اتخاذ قرار معين.
يقول هيك: "هذا ليس مستحيلاً - يمكنك النظر إلى الداخل ورؤية الإشارات التي تلتقطها".
مثل كثير من العاملين في هذا المجال، أعرب عن تفاؤله بأن البشر والآلات، بالعمل معاً، سيحققان أكثر بكثير مما يمكن أن يفعله أي منهما وحده. هناك بعض تحديات التصميم الجادة التي يجب حلها قبل أن يصل هذا المستقبل الوردي.