FINANCIAL TIMES

لا عذر للأتمتة غير المتقنة

إننا نعطي لأجهزة الكمبيوتر تفويضا أكبر – وبشكل أكثر تأثيرا – لاتخاذ القرارات. النقاد يشعرون بالقلق على سلامة العيش في عالم خوارزمي، وهذه مخاوف مفهومة. لكن تقليل الأتمتة ليس حلا. في الواقع، نحن بحاجة إلى زيادتها.
حتى وقت قريب كان الدور الرئيسي لأجهزة الكمبيوتر هو مساعدة البشر على اتخاذ القرارات. مثلا، يساعد برنامج جداول البيانات المحللين في إجراء العمليات الحسابية اللازمة للتخطيط لمسار العمل. وبالمثل، يمكن أن تقدم الخوارزمية توصية فيما يخص حساب الاستثمارات، لكن البشر عادة هم من يقيمون حكمة استراتيجية التداول ويحددون معايير إدارة المخاطر ويراقبون جميع الأنشطة من كثب.
لكن هذا آخذ في التغير الآن، في كثير من الأحيان تسلم عمليات بأكملها إلى أجهزة الكمبيوتر والذكاء الاصطناعي. وفي بعض الحالات أمور مصيرية، مثل قيادة السيارات والطائرات.
هذا التحول التكنولوجي المهم يثير نقاشا كبيرا. مؤيدو الأتمتة يجادلون بأنها تجعلنا أكثر أمانا، وهذا صحيح في كثير من الحالات. في المقابل، المنتقدون يشيرون إلى أحداث اتخذت فيها أجهزة الكمبيوتر قرارات خطيرة كان يمكن أن يتجنبها الإنسان ذو المنطق السليم. تعكس هذه النقاشات التحديات التكنولوجية الجديدة التي لم يتم فهمها بعد على نطاق واسع.
معايير جودة البرمجيات تمثل تحديا كبيرا. تعلمت هذا خلال أعوام من أبحاثي التي أجريتها في مجال الروبوتات لدى مختبر الذكاء الاصطناعي التابع لمعهد ماساتشوستس، ومن عقود أمضيتها في تصميم أنظمة مستقلة وشبه مستقلة للخدمات المالية. برمجة أجهزة الكمبيوتر لمساعدة البشر على اتخاذ القرارات تعتبر أسهل بكثير من برمجة الكمبيوتر للعمل بالكامل من تلقاء نفسه.
بصفتي خبير كمبيوتر، هدفي عند إنشاء أي نظام آلي هو تصميمه ليكون بلا عيوب وبفعالية بكل ما أقدر عليه، ومع ذلك أدمج إجراءات تحوط للتعامل مع الأخطاء. هذا يعني إنشاء أنظمة واختبار الجهاز وفقا لمعايير عالية وموثوق بها، ومن ثم دمج الإجراءات في التصميم للتعامل مع أي أخطاء بسلاسة.
بسبب هذه الإجراءات الوقائية عادة ما تكون مساعدة البرامج مقبولة. الإنسان خطاء بين حين وآخر. لكن إذا فشل برنامج ما في توجيه سيارتك أو التحليق بطائرتك، فهذه قصة مختلفة تماما. يجب أن تكون جودة أنظمة الكمبيوتر في اتخاذ القرارات أعلى بكثير، خاصة عندما تكون حياة البشر على المحك. وبما أن برنامج صنع القرار معقد للغاية بطبيعته، فإن اختباره بأمان والحفاظ على جودته في مستوى عال يعد أمرا صعبا.
الحوادث الأخيرة التي سلط عليها الضوء إعلاميا، التي تسببت فيها برامج الطيار الآلي في الطائرات التجارية والسيارات ذاتية القيادة عكست هذه الحقيقة بشكل مأساوي. والمزيد في الطريق بالتأكيد. بينما لا تزال الحادثتان المتعلقتان بطائرتين طراز "بوينج 737 ماكس" قيد التحقيق، اتضح أن تصميم تلك البرمجيات واختبارها وتنفيذها كان من العوامل المهمة. كذلك كان المقبض الذي من المفترض أن يمكن البشر من تولي السيطرة من البرمجيات المعطلة. يقال إن المحققين وجدوا أن المقبض الذي من المفترض تحريكه يفتقر بعض الطيارين إلى القوة اللازمة لتحريكه.
في سياقات الحياة أو الموت، عندما يكون هناك شخص مشرف (لكن لا يكون دائما في وضع السيطرة الكاملة)، من الخطأ الفادح افتراض أنه سيكتشف مشكلة في البرنامج ويتولى زمام الأمور في الوقت المناسب ويحل الأمر. بالطريقة المصممة بها حاليا، هذه الأنظمة تخاطر بوضع البشر في حالة غفلة خطيرة.
علاوة على ذلك، هذا الافتراض يعني ضمنيا أن الأنظمة التي تعمل تلقائيا لا تحتاج إلى أن تكون مثالية، بل يجب أن تكون "تلقائية بدرجة كافية". في الوقت نفسه، الاستخدام المتزايد لخوارزميات تعلم الآلة التي لا يمكنها شرح سبب اتخاذها لقراراتها يمكن أن يجعل الأمر أكثر صعوبة على البشر وأجهزة الكمبيوتر للعمل معا بسلاسة وأمان.
الأشخاص الذين يطالبون بتمكين أجهزة الكمبيوتر من اتخاذ قرارات حاسمة يعتقدون أنها ستؤدي وظيفتها بشكل أفضل بكثير من البشر. بمجرد أن نوافق على السماح للكمبيوتر باتخاذ قرارات حاسمة بشكل مستقل تماما، يجب علينا أيضا الإصرار على وضع معايير جديدة أكثر صرامة لبرامجه. يجب أن يطلب من المهندسين جعل أنظمتهم تعمل في جميع الظروف وأن تؤدي أداء يكون على الأقل بالمستوى نفسه الذي يقدر عليه الإنسان، إن لم يكن أفضل.
يجب أن يكون البشر قادرين دائما على الهيمنة والتفوق على الآلات، لكن هذا لا يمكن أن يكون ذريعة للتصميم غير المتقن. يجب أن نكون أقل تسامحا مع أخطاء البرامج وتحويل السيطرة غير السلس من الكمبيوتر إلى الإنسان. من الظلم وغير الواقعي وغير الحكيم افتراض أن التدخل البشري يمكن أن يجعلنا نتغاضى عن التصميم غير الكامل أو السيئ في الأنظمة الآلية.
الأتمتة يمكن أن تجعل الناس أكثر أمانا - وستجعل عديدا من الصناعات أكثر كفاءة، بما في ذلك صناعتي. لكن بينما نفوض مزيدا من المسؤولية إلى الخوارزميات، يجب أن نرفع توقعاتنا. المعايير والممارسات التي كانت جيدة بما فيه الكفاية عندما كان المطلوب مساعدة الإنسان في اتخاذ القرارات هي ببساطة غير كافية للأنظمة الذاتية عندما تكون الحياة البشرية على المحك. كلما أسرعنا في تحقيق هذا التحول، سرعان ما نلنا الفوائد الكاملة للأتمتة - وتغلبنا على مخاطرها.
إنشرها

أضف تعليق

المزيد من FINANCIAL TIMES