احذر الموت بمتلازمة "جي بي تي"

في الأسبوع المقبل يواجه محام مخضرم لديه خبرة تبلغ 30 عاما في نيويورك، جلسة تأديبية بسبب نوع جديد من الجنح: تضمين محتوى زائف من إنشاء الذكاء الاصطناعي في مذكرة قانونية.
قدم ستيفن شوارتز، من شركة "ليفيدو ليفيدو آند أوبرمان"، وثيقة من عشر صفحات إلى محكمة في نيويورك ضمن دعوى ضد شركة أفيانكا للطيران تتعلق بإصابة لحقت بأحد الأشخاص. كانت المشكلة، كما اكتشف القاضي عند القراءة بتمعن، أن الوثيقة تحتوي على قرارات قضائية واستشهادات خيالية تماما لدرجة أن نموذج الذكاء الاصطناعي التوليدي، تشات جي بي تي، قد "هلوس".
في شهادة تحت القسم، اعترف شوارتز المكلل بالعار بأنه استخدم روبوت الدردشة الخاص بشركة أوبن إيه آي للمساعدة في القضية. بل إن نموذج الذكاء الاصطناعي التوليدي طمأنه بأن السوابق القانونية التي أوردها (الذكاء الاصطناعي) حقيقية. لكن شوارتز أقر بأن تشات جي بي تي أثبت أنه مصدر غير موثوق. وأعرب عن أسفه الشديد لاعتماده المفرط على المحتوى الذي تم إنشاؤه بواسطة الكمبيوتر، مضيفا أنه لن يستخدمه مرة أخرى "دون التحقق المطلق من صحته".
يأمل المرء فقط أن نتمكن جميعا من الاستفادة من "تجربته التعليمية" - كما يسمي المعلمون في الوقت الحاضر الأخطاء.
كما اكتشف ملايين الأشخاص، يمكن لتشات جي بي تي إنشاء محتوى معقول للغاية، لكنه خاطئ للغاية. عندما تتباهى شركات الذكاء الاصطناعي التوليدي بقدرة نماذجها على اجتياز الاختبارات القانونية والطبية، فليس من غير المعقول أن يعتقد المستخدمون أنها أذكى مما هي عليه.
لكن، حسب الكلمات المهذبة لإميلي بندر عالمة اللغويات الحاسوبية، هذه النماذج ليست أكثر من "ببغاوات عشوائية" تحاكي الآلات المصممة لإنتاج الإجابة الأكثر احتمالا من الناحية الإحصائية - وليس الأكثر دقة - دون أي مفهوم للمعنى. أو، بكلمات أقل تهذيبا لأحد المديرين التنفيذيين في مجال التكنولوجيا، هي مولدات هراء من الطراز العالمي، كما اكتشف شوارتز على حسابه.
إيماننا الساذج بالتكنولوجيا له تاريخ طويل. لدينا ميل إلى الإفراط في الثقة بالكمبيوتر، أحيانا مع نتائج قاتلة، كما هي الحال مع "الموت بسبب متلازمة جي بي إس (نظام تحديد المواقع العالمي)". متجاهلين أدلة رأوها رأي العين، تبع عدد من سائقي السيارات، بشكل أعمى، أنظمة جي بي إس الملاحية الخاطئة للخروج من منحدرات الطرق السريعة إلى الحرارة الحارقة في وادي الموت في كاليفورنيا. في 2017 حددت ورقة بحثية 158 حادثة كارثية متعلقا بأجهزة جي بي إس، أدت إلى وفاة 52 شخصا. لكن، كما أشارت الورقة البحثية، ما لا يتم تسجيله هو الحالات التي لا تعد ولا تحصى عندما تنقذ تلك الأجهزة نفسها السائقين.
ما لم نكن حذرين، قد يكتب الباحثون في المستقبل يوما ما أوراقا حول "الموت بسبب متلازمة جي بي تي". فإلى أي مدى سيعتمد المستخدمون وموظفو الرعاية الصحية، بغير حكمة، على روبوتات الدردشة الآلية للحصول على المشورة الطبية مثلا؟ لقد تم نشر تحذيرات على موقع أوبن إيه آي تخبر المستخدمين أن تشات جي بي تي يمكن أن ينتج معلومات غير صحيحة، أو مضللة وأن الروبوت ليس المقصود منه تقديم المشورة. لكن منظمة الصحة العالمية رأت بالفعل أن من المناسب التحذير من الأخطاء الناجمة عن التبني السريع لأنظمة الذكاء الاصطناعي التوليدي غير المختبرة - حتى لو ظلت متحمسة لإمكانات التكنولوجيا في المدى الطويل لتحسين الرعاية الصحية.
رغم الثغرات التكنولوجية المقلقة، من الواضح أن نماذج الذكاء الاصطناعي التوليدي سيكون لها تأثير هائل في المهن القانونية والصحية، وغيرها كثير. تتكاثر النماذج الصغيرة الخاصة بمجالات معينة ومفتوحة المصدر، مهددة بأتمتة كثير من أعمال المعرفة الروتينية.
وقعت شركة بي دبليو سي للخدمات المحترفة عقدا مدته 12 شهرا مع شركة هارفي القانونية الناشئة في مجال التكنولوجيا، لمساعدة محامييها البالغ عددهم أربعة آلاف. سيتم استخدام برمجية هارفي، استنادا إلى أحدث طراز جي بي تي-4 من شركة أوبن إيه آي، لتحليل العقود وإجراء التقصي اللازم. لكن بي دبليو سي تصر على أن الشركة الناشئة لن تقدم مشورة قانونية مباشرة، أو أنها ستستعيض عن المحامين.
نموذج آخر من هذا القبيل تديره شركة سيسيرو الناشئة التي أسسها ماتياس ستراسر، وهو مستشار سابق في شركة المحاماة الأمريكية، سوليفان آند كرومويل. أطلق سيسيرو روبوت محادثة يسمى مايك (وهو أيضا اسم محام زميل لهارفي في المسلسل التلفزيوني Suits)، تم تدريبه على سيناريوهات قانونية في العالم الحقيقي لصياغة رسائل البريد الإلكتروني وترميز المستندات القانونية.
يجادل ستراسر بأن الاختصاص الأساسي للمحامين هو قراءة اللغة وتفسيرها وكتابتها. وهذا هو أيضا الاختصاص الأساسي لنماذج الذكاء الاصطناعي التوليدي. فكما أخبرني ستراسر "الصناعة القانونية مبنية على الكلمات. والمحامون هم معالجو نصوص خارجيون. ومع جي بي تي، يمكنك الاستعانة بجيش كامل من المساعدين القانونيين".
لكن كما ينبغي لكبار المحامين دائما تحمل المسؤولية عن الملخصات التي يكتبها مساعدوهم القانونيون البشريون الذين يعانون الإفراط في تعاطي الكافيين في الساعة الثالثة صباحا، يتعين عليهم التدقيق في مخرجات نماذج الذكاء الاصطناعي التوليدي بشكل ناقد وأن يكونوا على دراية بعيوبه. يمكن للأمور أن تسوء بالفعل وقد حدث هذا. فقط اسأل شوارتز سيئ الحظ.