كلمة الإنسان ضد الآلة .. كيف نثبت الحقيقة؟

يتذكر لي كاسلتون بوضوح النقص الذي ظهر في مكتب البريد الخاص به ليلة رأس السنة الجديدة في 2003، 1103.68 جنيه استرليني. بعد أسبوع ظهرت خسارة أخرى، بلغت هذه المرة 4230 جنيها استرلينيا. ثم خسارة أخرى وأخرى. بحلول آذار (مارس)، كان ينقص مدير مكتب البريد الفرعي 25 ألف جنيه استرليني. يقول كاسلتون: "علمت نوعا ما من الخسارة الثانية أن هذا لم يكن خطأ مني".
مع عدم وجود وسيلة لاستجواب أنظمة الكمبيوتر الداعمة لمكتب البريد، اتصل بخط مساعدة تكنولوجيا المعلومات ومديريه وأرسل لهم بريدا إلكترونيا 91 مرة. مع ذلك، فإن كل ما تلقاه هو تعليمات بالتحقق، الأمر الذي فعله عشرات المرات، وبعد بعض التطمينات التافهة، توقف المسؤولون عن الرد تماما.
اشترى كاسلتون، الذي عمل فني هندسة ثم سمسار أسهم لفترة وجيزة، مكتب بريد في مدينة بريدلينجتون الساحلية، شمال إنجلترا، على أمل توفير أسلوب حياة تنعم به أسرته الشابة. بدلا من ذلك أدى حكم المحكمة العليا إلى إفلاسه من خلال أمر بأن يدفع لمكتب البريد مبلغ 321 ألف جنيه استرليني الذي أنفقه المكتب لمقاضاته بسبب دين وهمي. دفعه الإفلاس للعودة إلى سمسرة الأسهم. لذلك كان عليه أن يتدبر أمره بالعمل أحيانا كمهندس، وأن ينام أحيانا في سيارته، ويعيش عيش الكفاف لسداد مدفوعات الرهن العقاري لشقة العائلة فوق مكتب البريد الذي توقف عن العمل الآن.
أصبح نظام تكنولوجيا المعلومات المليء بالأخطاء الذي أدى إلى قيام مكتب البريد البريطاني المملوك للدولة بمقاضاة أكثر من 700 مدير مكتب بريد فرعي بسبب سرقات لم يرتكبوها، وإفلاس آخرين منهم، موضوع تحقيق عام الآن.
تضيف هذه الحادثة إلى ردود الفعل العالمية المتزايدة على الأضرار البشرية التي يمكن أن تسببها العمليات الآلية. في الولايات المتحدة، تدعو مجموعة من المستشارين العلميين في البيت الأبيض إلى إقرار "قانون للحقوق" لاتقاء الظلم الذي يسببه الذكاء الاصطناعي.
يركز كثير من هذه الأحداث على كيف يمكن أن تضخم الخوارزميات المدعومة بالذكاء الاصطناعي التحيز المجتمعي، مثل تهميش الباحثات عن عمل في المجالات التي يسيطر عليها الذكور، وتلقي المواطنين السود الذين يتم تعريفهم بواسطة أدوات الذكاء الاصطناعي كمصدر خطر يحتمل أن يكرر الجريمة، أحكام سجن أكثر صرامة من القضاة. مع ذلك، فإن الظلم الرقمي لا يقتصر على الذكاء الاصطناعي، كما أنه ليس ظاهرة جديدة. في 2011، اعتذرت حكومة المملكة المتحدة لأقارب اثنين من طياري القوات الجوية الملكية اللذين لامتهما على حادث تحطم مروحية من طراز شينوك 1994 أسفر عن مقتلهما، وقال نشطاء إن البرمجيات الخاطئة ربما هي من تسببت به.
كل هذا يثير التساؤل حول كيفية إثبات الحقيقة في النزاعات التي تضع كلمة الناس ضد موثوقية أجهزة الحاسوب.
كتب هارولد ثيمبليبي الأستاذ الفخري للعلوم في جامعة سوانزي: "عندما يتعرض المرضى للأذى، غالبا ما يتم إلقاء اللوم على العاملين". ينسى الناس المشتبه به الآخر في مثل هذه الحالات، وتحديدا التكنولوجيا المعيبة، أو بعض التفاعل الخفي بين الإنسان والآلة. إن كتابه الجديد Fix it، يصف هذه الحالة. أثناء تحقيق روتيني، اكتشف أحد المستشفيات عدم تطابق بين القياسات التي تم تحميلها آليا إلى قاعدة بيانات من الأجهزة السريرية وبين الملاحظات الورقية للممرضات. باعتبار أن أجهزة الحاسوب لا تكذب، اتهم المستشفى الممرضات بإصدار سجلات مزورة للمرضى، وخضعت بعضهن للمحاكمة. لكن بعد مرور ثلاثة أسابيع، تسبب مهندس دعم لتكنولوجيا المعلومات من الشركة الموردة للجهاز في انهيار المحاكمة عندما كشف، أثناء استجوابه بشكل دقيق، أنه "حسن" قاعدة البيانات التي كانت سيئة الصيانة، ما حذف السجلات.
في فضيحة مكتب البريد، دمر مزيج من البرامج المعيبة والإفصاح غير الكافي والكذب بمساعدة الافتراض القانوني وتحريضه بأن أجهزة الحاسوب تعمل بشكل موثوق، حياة مئات الأشخاص، كما يقول بول مارشال، محام مثل، دون مقابل، ثلاثة مدانين من عمال مكتب البريد في محكمة الاستئناف. لأكثر من عقد، وثق قضاة ومحلفون في أقوال شهود مكتب البريد بأن نظام المحاسبة الخاص به "هورايزن"، الذي قدمته شركة فوجيتسو المختصة في تكنولوجيا المعلومات، كان موثوقا وخلصوا إلى أن مديري مكاتب البريد الفرعية لا بد أنهم سرقوا الأموال التي سجلوها فهي مفقودة. لكن في 2019، أدى الكشف عن سجلات الأخطاء المعروف أنها أثرت في "هورايزن"، التي كانت موجودة طوال الوقت، إلى استنتاج القاضي الذي كان أكثر تحريا بأن النظام "لم يكن قويا بالشكل اللازم".
افتراض موثوقية الحاسوب يضع العبء على عاتق أي شخص يطعن في الأدلة الرقمية لإثبات أن الحاسوب غير جدير بالثقة. قد يكون ذلك "صعبا للغاية" عندما يفتقر المتهمون إلى المعرفة بتكنولوجيا المعلومات ولا يستطيعون الوصول إلى الأنظمة، حسبما يقول مارتن توماس، الأستاذ الفخري لتكنولوجيا المعلومات في كلية جريشام. يمكن لأجهزة الحاسوب أيضا أن تسيء التصرف، بينما يبدو أنها تعمل بشكل مثالي. كان هذا هو "الطريق المسدود" الذي ورط عمال مكتب البريد، كما يقول مارشال. أضاف: "لم يكن أمامهم أي أساس يستندون إليه للتساؤل عما يقوله الحاسوب، لأنهم لم يعرفوا كيف يعمل أو عن احتمال فشله ولم يكن مكتب البريد يخبرهم عن ذلك".
يعد طرح الأسئلة الصحيحة أمرا مهما كذلك عند الاختلاف على دليل مرتبط بالبريد الإلكتروني. في 2018، فاز بيتر دافي، استشاري جراحة المسالك البولية، بدعوى فصل تعسفي ضد مؤسسة مستشفيات خليج موركامبي الجامعية الاستئمانية التابعة لخدمة الصحة الوطنية "يو إتش إم بي تي". ثم نشر كتابا يزعم بوجود إخفاقات تتعلق بوفاة أحد المرضى، ما دفع خدمة الصحة الوطنية وجهاز الإشراف من خدمة الصحة الوطنية "إن إتش إس إمبروفمينت" إلى التكليف بإجراء تحقيق خارجي.
كشف التحقيق الذي جرى بين 2020 و2021 عن رسالتي بريد إلكتروني يزعم أن دافي أرسلهما في 2014، عندما تدهورت حالة المريض الصحية. يقول دافي إن رسائل البريد الإلكتروني كانت ملفقة. مع ذلك، نتيجة لإدخالها في السجل، وجد نفسه متورطا في التسبب بسوء رعاية المريض.
في بيان عن آرون كامينز، الرئيس التنفيذي لـ "يو إتش إم بي تي"، قال فيه إن "مراجعتين خارجيتين منفصلتين ومستقلتين" للتحقيق "لم تعثرا على دليل على أن رسائل البريد الإلكتروني المعنية تم التلاعب بها ولا يوجد دليل على عدم إرسالها من حساب البريد الإلكتروني لدافي الخاص بالمستشفى التابعة لـ إن إتش إس".
مع ذلك، أثناء محاكمة قضايا العمل لدافي 2018، أمر قاضي صندوق الائتمان بالبحث عن جميع المراسلات المتعلقة بوفاة المريض. لكن لم ينتج عن أي من عمليات البحث الرقمية التي أجراها الصندوق العثور على رسائل البريد الإلكتروني المتنازع عليها. كما لم تظهر رسائل البريد الإلكتروني في المعلومات التي تم جمعها من خلال تحقيقين داخليين في خدمة الصحة الوطنية بشأن وفاة المريض، أو رد على طلبات حرية المعلومات التي قدمتها أسرة المتوفى ودافي نفسه.
يتساءل دافي: "كيف يمكن لتقييم الأمن السيبراني لمؤسسة ما اليوم أن يقر بصحة رسائل بريد إلكتروني مفترض أنها أرسلت قبل ستة أعوام، مع عدم اعتراف المستلمين بها أو التعامل معها، وتتعارض مع الملاحظات السريرية الحديثة ومع ما تتذكره أسرة الفقيد".
بدون التعليق على حالة دافي الخاصة، يقول ثيمبليبي إنه عند إجراء عمليات بحث رقمية وإبلاغ المحكمة بعدم وجود مزيد من رسائل البريد الإلكتروني التي يمكن العثور عليها، "لا تستطيع بذلك افتراض صحتها". يجب أن يكون هناك دليل قوي على وجود رسائل البريد الإلكتروني، "كالنسخ الاحتياطية"، كما يقول.
من التطبيقات المصرفية إلى الخوارزميات التي تحدد خيارات التوظيف، دخلت الأنظمة التي يتحكم فيها الحاسوب في حياتنا اليومية بطرق صغيرة لا حصر لها منذ المحاكمات الأولى المتعلقة بمكتب البريد. مع ذلك، في الوقت الذي تقدم فيه وصول التكنولوجيا، فإننا لا نستطيع قول الشيء نفسه عن قدرة القانون على التعامل مع إخفاقاتها، "يمكنك أن تصبح محاميا دون أيما معرفة بالأدلة الإلكترونية، رغم أنها تشكل جزءا من كل دعوى قضائية تقريبا"، حسبما يقول ستيفن ماسون، محرر مشارك لكتاب "الأدلة الإلكترونية والتوقيعات الإلكترونية" المختص في المحاماة. يقول مارشال: "لهذا الأمر أهميته بالفعل" في إشارة إلى الحكم بالسجن على مديرة مكتب البريد الفرعي سيما ميسرا بسبب سرقة مزعومة لأموال أظهر نظام هورايزن لمكتب البريد أنها مفقودة. يقول مارشال: "في أربع حالات منفصلة أمام ثلاثة قضاة مختلفين"، طلبت ميسرا الكشف عن سجلات أخطاء "هورايزن"، لكن طلبها قوبل بالرفض. بعد عقد، أدت سجلات الأخطاء إلى إلغاء الحكم الصادر بحقها.
في ورقة بحثية نشرت في 2020، قدمت إلى وزارة العدل، أوصى مارشال وبعض من المؤلفين المشاركين بإعادة النظر في الافتراض القانوني بمصداقية أجهزة الحاسوب. بدءا من فرضية أن جميع برامج الحاسوب تحتوي على أخطاء، يكافح المؤلفون مع كيفية منع حالات الظلم دون التسبب في ملء قاعات المحاكم بالمحاولات التي يدفعها الأمل، مثل مطالب سائقي السيارات بإجراء تحقيقات في برمجيات كاميرات السرعة.
توصي ورقة البحث بضرورة مطالبة المؤسسات التي تعتمد على الأدلة التي يتم جمعها بواسطة أجهزة الحاسوب، كإجراء نموذجي، بالكشف عن سجلات الأخطاء في أنظمتها ونقاط الضعف المعروفة. بالنسبة للعمليات التي يتم إدارتها بشكل جيد يجب أن يكون ذلك واضحا، كما يقول توماس من كلية جريشام: وإلا "فإن العبء يجب أن يقع على عاتق المؤسسات لإثبات أن الحاسوب ليس هو من تسبب في سير الأمور على نحو خاطئ".
بينما توظف الشركات غالبا مستشارين في تكنولوجيا المعلومات لإعطاء رأي اختصاصي في قضايا المحاكم، نادرا ما يستطيع الأفراد تحمل أتعاب الخبراء. من أجل الحد من عدم المساواة في هذا الشأن، يقترح ثيمبليبي من جامعة سوانزي إنشاء لجان مستقلة لتكنولوجيا المعلومات لتقديم المشورة للقضاة حول الحالات التي يمكن فيها الاعتماد على الأدلة الرقمية بشكل معقول ومتى لا يمكن ذلك. يقول: "في العالم الذي أتصوره سيتمكن الأشخاص من القول: من الواضح أن هذه مشكلة تتعلق بتكنولوجيا المعلومات ولدينا الحق في الاتصال بلجنة تكنولوجيا المعلومات، وحينها ستتخذ اللجنة وجهة نظر مستنيرة".
لو كان مثل هذا النظام معمولا به عندما رفع مكتب البريد الدعاوى، لكان بإمكان عائلة كاسلتون أن تعيش حياة مختلفة تماما. أما الآن، بعد أن أصبح مهندس مصنع يعمل في المناوبات الليلية، بدلا من أن يكون رجل أعمال، يقول كاسلتون إنه كان يصارع مؤسسة لا تلين. قال: "شعرت أنني أغرق ولم يفعل أحد أي شيء لإنقاذي. لقد كنت فقط غير مهم".