FINANCIAL TIMES

إدارة آلات القيادة الذاتية .. معترك كبير عقب حادثتي "بوينج"

إدارة آلات القيادة الذاتية .. معترك كبير عقب حادثتي "بوينج"

للوهلة الأولى، هناك كومة مضخات الأدوية قد لا تحمل تشابها يذكر مع أدوات قيادة طائرة حديثة.
سلسلة من الصناديق البلاستيكية البيضاء مكدسة فوق بعضها بعضا، تشبه مضخات أخرى، في مستشفى يتحكم في تدفق الأدوية والسوائل في مجرى الدم، لمرضى مصابين بأمراض خطيرة.
هناك اختلاف واحد حاسم: هذه مضخات يمكن استخدامها للأنسولين ومسكنات الألم وكثير من الأدوية الأخرى، من المقرر أن تتولى مهام حاسمة للسلامة لم يكن يتولاها فيما مضى سوى أطباء وممرضين.
تماما مثلما حسن الطيار الآلي في الطائرة السلامة الشاملة للطيران، من خلال التحكم في مهام يمكن أن يرتكب فيها طيارون من البشر الأخطاء، صممت مضخات لإجراء بعض من العملية الشاقة، المتمثلة في التحقق من مستويات الجرعة وهوية المرضى والسجلات الطبية اللازمة قبل إعطاء أي دواء. الأمل هو أن تتمكن من معالجة هذه المعلومات من خلال أخطاء أقل من البشر.
مارك سوجان، أستاذ مشارك في جامعة وورويك البريطانية الذي شارك في ابتكار النظام، يقول "إن استخدام الذكاء الاصطناعي قد يعني في النهاية أن المضخات ستتعلم كيفية تحسين إعطاء الأدوية بناء على حالة كل مريض".
ويقول "هذا سيحرر الممرضين من اضطرارهم لمراقبة ما يجري باستمرار، لأن الذكاء الاصطناعي سيؤدي ذلك".
تجربة المضخات في مستشفى رويال ديربي في إنجلترا، التي تشتمل على الدمى بدلا من البشر، هي واحدة من آلاف مشاريع الأتمتة التي برزت بشدة في دائرة الضوء بسبب حادثتين من حوادث التحطم القاتلة، خلال الأشهر الستة الماضية، شملت طائرتين جديدتين من طراز بوينج 737 ماكس 8.
يسعى الباحثون والشركات من مختلف القطاعات، من الرعاية الصحية إلى الشحن إلى السيارات بدون سائق، إلى تطبيق الذكاء الاصطناعي والأتمتة على عمليات كان فيما مضى يجريها البشر فحسب، في مسعى لجعلها أكثر موثوقية وأقل عرضة للخطأ.
مع ذلك، يعترك هؤلاء العلماء الآن مع معضلة مشابهة لتلك التي انكشفت بفعل سقوط طائرتي بوينج، كيفية إدارة التفاعل بين البشر والآلات.
مقابل كل خطأ بشري يزال، هناك خطر يتمثل في ظهور أخطاء جديدة. يمكن أن ترتكب الآلات الأخطاء بسبب نقص المعلومات أو سوء البرمجة، وهناك مجال واسع لسوء الفهم بين البشر والآلات.
المشكلة الأساسية، كما يقول سوجان، هي أنه في حين إنه لم يعد البشر يمارسون سيطرة كاملة على تشغيل الآلات المستقلة، إلا أنه لا يزال من المفترض أن يشاركوا بما فيه الكفاية، لفهم أداء الآلة والتدخل في حال بدأت تعمل بشكل غير آمن.
يقول سوجان "كل ما تفعله حقا هو إزالة البشر أو في هذه الحالة الطبيب، التحكم اليدوي ونقل دوره إلى دور مشرفين أو مراقبين للنظام الآلي. وهذا يؤدي إلى كل أنواع المشكلات".
قلة من الباحثين المعنيين هي التي ترى أن هناك إجابات مرضية لجميع الأسئلة المتعلقة بالسلامة التي تطرح.
جاك بيندرز، رئيس مركز أبحاث الأتمتة والروبوتات في جامعة شيفيلد هالام، يقول "إنه لا تزال هناك تحديات كبيرة تقف أمام ضمان أن البشر يفهمون ما تفعله الأنظمة الآلية، وأن الأنظمة الآلية تفهم البشر القريبين".
يقول الأستاذ بيندرز "هذا شيء لم يتم حله فعلا".
تم توضيح الجدل حول الآلات المستقلة بشكل عجيب من خلال حادثتي التحطم القاتلتين في طائرتي بوينج، تشتمل كل منهما على طائرة 737 ماكس 8: الأولى كانت رحلة شركة طيران ليون إير في إندونيسيا في تشرين الأول (أكتوبر) الماضي، والأخرى كانت رحلة لشركة الطيران الإثيوبية في آذار (مارس) الماضي، بعد وقت قصير من الإقلاع.
أفاد مسؤولون في إثيوبيا في الرابع من نيسان (أبريل) الجاري، أن الطيارين في حادثة التحطم الثانية لم يتمكنا من التغلب على ميل نظام تعزيز خصائص المناورة MCAS – وهو نظام آلي لمنع حالات الهَوَيان أثناء الطيران – لإرسال مقدمة الطائرة إلى الأسفل بشكل خطير. تم إلقاء اللوم على مشكلة مماثلة فيما يتعلق بالمأساة الإندونيسية.
مع ذلك، هناك أدلة قوية على أن الأتمتة التي يتم تنفيذها بحذر أنقذت كثيرا من الأرواح.
ستيف كاسنر، باحث مختص في علم النفس في وكالة الطيران والفضاء الأمريكية ناسا، يشير إلى أنه منذ وقت قريب حتى 30 عاما كانت حوادث تحطم الطائرات القاتلة شائعة نسبيا في الولايات المتحدة.
في عام 1989، توفي 259 راكبا في خمسة حوادث مميتة منفصلة شملت طائرات تجارية مملوكة للولايات المتحدة.
مضت الآن عشرة أعوام منذ حادثة تحطم رحلة كولجان إير بالقرب من بوفالو، نيويورك، في شباط (فبراير) 2009، ما أسفر عن مقتل 49 شخصا، وهي آخر حادثة تحطم مميتة لطائرة تجارية مملوكة للولايات المتحدة. الاقتصادات المتقدمة الأخرى شهدت تحسينات حادة مماثلة فيما يتعلق بالسلامة.
كاسنر، الذي شارك في تطوير كثير من الأنظمة الآلية المستخدمة الآن، يقول "إنه قبل 20 عاما لم يكن ليخطر على باله قط إمكانية تحقيق سجل السلامة الحالي". ومن رأيه أن إدخال الأتمتة لمساعدة الطيارين لعب دورا رئيسا.
يقول كاسنر المقيم في كاليفورنيا "فعلنا شيئا صحيحا ونشرنا الأفكار في جميع أنحاء الصناعة، خاصة للطيارين، لقد شاركوا في كل خطوة على الطريق. أشعر أننا فعلنا شيئا رائعا هنا. نجحنا في ذلك وتقدمنا فيما يتعلق بالسلامة خطوة إلى الأمام".
بالنسبة إلى بعض الباحثين، هناك إمكانية كبيرة للأتمتة لإنتاج تحسينات السلامة التي من هذا القبيل في مجالات أخرى.
يشير سوجان إلى أنه عندما يتم إعطاء أي دواء يدويا، يجب أن يتحقق الأطباء من 60 إلى 70 أمرا مختلفا، من السؤال البسيط الخاص بهوية المريض إلى الأسئلة الأكثر تعقيدا، مثل إذا ما كان الدواء سيتفاعل بشكل سلبي مع أي شيء آخر يتناوله المريض.
ويضيف "عمليات التحقق والتأكد معرضة للخطأ إلى حد كبير"، ويقول "إنه من شبه المؤكد إحصائيا أن الممرض أو الطبيب سيرتكب على الأقل خطأ واحدا في حياته المهنية".
"القوة الكبيرة للأنظمة المؤتمتة هي استعدادها للقيام مرارا وتكرارا وبنفس الطريقة تماما بمهام مفصلة ومملة عقليا"، وذلك وفقا للأستاذ بيندرز.
يقول بيندرز "يمكن أن تطلب من الروبوت القيام بالشيء نفسه ألف مرة ودائما ما سيقوم بالشيء نفسه. إما إذا طلبت ذلك من شخص معين، فربما سيفعله ثلاث مرات".
على أن قلة من الأنظمة المستقلة المهمة للسلامة هي التي يمكن أن تتأقلم بشكل كامل بدون مساعدة بشرية، وهناك مشكلات متكررة عندما يستعيد البشر السيطرة على نظام آلي وصل إلى حدود قدراته.
على الرغم من أن كاسنر يقول "إنه من السابق لأوانه التعليق على حوادث طائرة 737"، إلا أنه يعترف بأنه في حين إن حوادث الطيران أصبحت نادرة، إلا أن حوادث "المفاجآت الآلية" شكلت جزءا كبيرا من حوادث السلامة في الأعوام الأخيرة".
من بين أخطر هذه الحوادث كان فقدان طائرة إيرباص A330 لشركة الطيران الفرنسية في عام 2009 فوق جنوب المحيط الأطلنطي، ما أسفر عن مقتل 228 شخصا. فشل الطيارون في تلك الحادثة، في اتخاذ الإجراء الصحيح بعد أن استعادوا التحكم من الطيار الآلي، بعد فشل جهاز الاستشعار.
كاسنر، وهو أيضا مدرب طيران، يقول "إنه يعطي الطيارين المتدربين تحذيرا صارخا بشأن الأنظمة".
يقول كاسنر "عندما ندخل الطائرة، فإن الشيء الذي أحب قوله هو، (أول شيء يجب أن تعرفه بشأن هذا النظام، هو أنه سيحاول قتلك بين فترة وأخرى)، الخبر السار هو أنه سيحاول إنقاذ حياتك نحو عشر مرات أكثر".
لويس بنيتو، مدير أعلى في شركة لويدز ريجستر Lloyd’s Register، التي تصادق على سلامة السفن والمنشآت البحرية، يقول "إن من المهم بشكل خاص التأكد من اختبار البرمجيات بشكل صحيح، للتحقق من سلوكها في جميع الظروف التي ستواجهها".
يقول بنيتو "يمكن أن يزداد الأمر تعقيدا عندما تسمح للبرمجيات بالقيام بأشياء أكثر وأكثر".
لعدة أعوام، يقول بنيتو "إن شركته كانت تتعامل مع طلبات للمصادقة على الأنظمة الآلية في الأنشطة البحرية وصناعات النفط والغاز البحرية".
في حين إن السفن البحرية تستخدم منذ فترة طويلة الأنظمة الآلية التي تحافظ على مسار محدد في البحر، إلا أن الأشكال المختلفة الأحدث مصممة للكشف عن العقبات، مثل السفن الأخرى، ورسم مسار آمن حولها بدون تدخل الطاقم.
يقول بنيتو "إنه يجب تدريب الأشخاص الذين يعملون مع الأنظمة الآلية بحذر بشأن حدودها".
ويُضيف "من الأهمية بمكان أن تفهم ما تأتمتته، وكذلك معرفة ما لا تأتمتته. يجب أن يفهم الأفراد متى لا تكون التكنولوجيا مصممة لتلك العملية بالتحديد".
التحدي المتمثل في التأكد من قدرة البشر على العمل بشكل مريح إلى جانب الآلات معروض في مركز الأستاذ بيندرز في جامعة شيفيلد.
على طاولة في غرفة المركز الرئيسة، يشارك روبوت في العمل – واحد من سلالة جديدة من الروبوتات الصناعية المصممة لتكون آمنة حول الزملاء البشر – باستخدام ذراع مفصلية لالتقاط وفرز قطع بلاستيكية زرقاء على شريط متحرك.
تم تطوير الآلة من أجل جهاز توزيع المواد الغذائية والكتل وقطع الجبن.
مع ذلك، فإن الغرابة المطلقة للعمل إلى جانب آلة مستقلة تصبح واضحة عندما يقف ألكسندر لوكاس، الباحث في المركز، بجوار الروبوت ويبدأ بفرز كومة من الأقلام حسب اللون، وهي مهمة تتطلب درجة من التركيز. على الرغم من أنه معتاد على العمل إلى جانب آلة، إلا أنه يقول "إن أداءه لا يزال يعاني عند مقارنته بالروبوت".
وفقا للأستاذ بيندرز، يجد البشر مثل هذه المواقف مسببة للتوتر، جزئيا لأن البشر يستخدمون وسائل تواصل أكثر دقة بكثير من الآلات.
يقول الأستاذ بيندرز عن المحادثات بين البشر "حتى إن لم تكن تعرف، فإن تعابير وجهك ولغة جسدك لا تزال توجه المحادثة. مع الروبوتات، يكون لديك قدر أقل بكثير من هذا".
في حين إن الآلات تستطيع معالجة البيانات بسرعة أكبر بكثير من البشر، إلا أنها تعتمد أيضا في العادة على أنواع محدودة أكثر من المعلومات.
يشير سوجان إلى أن الطبيب البشري الذي يشرف على مضخة حقن تعطي الأنسولين إلى مريض بالسكري، سيكون قادرا على معرفة إذا ما كان المريض يتناول وجبة خفيفة من الحلوى، ويخصم الزيادة الوشيكة في مستوى السكر في دم المريض.
المضخة الآلية، التي لا تدرك سوى مستوى السكر في دم المريض، قد تعد الزيادة الطبيعية في مستوى السكر، علامة على أنه تجب زيادة جرعة الأنسولين بطريقة قد تكون خطيرة.
يقول الأستاذ بيندرز "إن قوة البشر الكبيرة تتمثل في قدرتهم على تقدير المواقف الجديدة بسرعة والتعامل معها".
ويقول "إن البشر أقوياء جدا في فهم جوهر معلومات الاستشعار لديهم".
يبدو أن المعلومات السيئة من أجهزة الاستشعار لعبت دورا حاسما في إرباك الطيارين الآليين في عدد من حوادث الطيران، بما في ذلك حادثة تحطم طائرة A330 لشركة الطيران الفرنسية في عام 2009 وحادثتي تحطم طائرة 737 ماكس 8.
تم تضليل نظام MCAS في الحادثة الإثيوبية بسبب معلومات غير صحيحة، من جهاز استشعار أخبره أن الطائرة كانت ترتفع بشكل حاد أكثر بكثير مما كانت عليه في الواقع.
يقول سوجان "إنه من المهم إدراك مثل هذه الحدود كجزء من عملية حل مشكلات السلامة في الأنظمة الآلية: كيف يمكننا أن نضمن أن النظام يعرف ما يكفي عن العالم الذي يعمل داخله؟ هذا شيء معقد".
في الوقت نفسه، يزداد تعقيد التحدي المتمثل في تحقيق التكامل بين البشر والآلات نتيجة الغموض الذي يحيط بالطريقة التي يتخذ فيها البشر القرارات الحساسة.
جنينجز، أستاذ الذكاء الاصطناعي في "إمبيريال كوليج" في لندن، يقول "إن مطوري الأنظمة كانوا يسعون في مرحلة معينة إلى تطوير أنظمة ذكية، عن طريق سؤال المختصين من بني البشر عن كيفية التوصل إلى قرار معين، وهي عملية كشفت مدى اختلاف أسلوب التفكير لدى البشر عن "أسلوب التفكير" لدى الآلات".
يقول الأستاذ جنينجز "لم يحققوا تقدما كبيرا لأن المختصين لم يتمكنوا في الواقع من بيان السبب في اتخاذهم قرارات بعينها".
كذلك هناك أيضا رد فعل عكسي ضد فكرة أن أفضل الأنظمة المؤتمتة، هو النظام الذي يعطي أعلى نسبة من المهمة قيد البحث إلى الكمبيوتر، وفقا لما تقول سارة فليتشر، وهي زميلة باحثة عليا في "مركز الهياكل والتجميع والأتمتة الذكية" في جامعة كرانفيلد. الأنظمة التي تخصص أشياء أقل من الحد للبشر ليقوموا بها يمكن أن تصيب المشغلين بالملل وقلة الانتباه، تماما، في اللحظة التي تحتاج فيها الآلة إلى إعادة السيطرة إلى البشر.
تقول فليتشر "غالبا ما يكون هنالك افتراض أن تقليص كمية العمل هي المنفعة التي تعود من الأتمتة. ونواصل التقليص، مرة بعد أخرى. وأقول، (لا. لا تفعلوا، دعونا نتوصل إلى المستوى الأمثل)".
وفقا لكثير من الباحثين، العامل الحاسم في تجنب مزيد من كوارث الطيران أو المآسي في المجالات الجديدة، التي تعمل على تطوير التكنولوجيا الذاتية، يرجح لها أن تكون تطوير مزيد من الفهم الناضج للأدوار النسبة إلى البشر والآلات.
يقول كاسنر "إن من المهم تماما أن نفهم أن البشر والأنظمة المؤتمتة لن يعملوا أبدا بشكل مثالي: "الفكرة هي إعداد أطقم الطيران ليفهموا أن الأتمتة لديها جوانب قصور خاصة بها. هي تأتي أحيانا بأمور غير متوقعة. وكذلك يفعل البشر. نحن كائنان مختلفان لدينا جوانب قصور وعرضة للخطأ، موجودان معا في قمرة القيادة".

إنشرها

أضف تعليق

المزيد من FINANCIAL TIMES