FINANCIAL TIMES

غاية سباق التسلح ضد تقنيات تزييف الصور .. تقليص مدى الضرر

تركيب الصور المزيفة قد يكون مدمرا بشكل خاص في بلدان مثل الهند أو البرازيل، في كل منهما، هناك استخدام مكثف لتطبيق واتساب، وهو منصة تناسب الفيديوهات وصور بطبيعتها المغلقة تأتي مع شعور بالأمان والثقة.
تشير نارايانان من معهد أكسفورد للإنترنت إلى أن كلا البلدين لديهما عدد سكان كبير دون تعليم أساس، ما يجعل من الصعب توليد المعرفة الإعلامية.
كما هو الحال في الأغلب مع المعلومات المضللة، فإن السكان الضعفاء هم الأكثر عرضة للخطر.
وتضيف: "تمثل الإنترنت ذروة الثورة الصناعية الرابعة. هذه مجتمعات لم تحصد فوائد الثورة الأولى، فليست لديهم المعرفة اللازمة للبدء في فهم أن جهاز الكمبيوتر يمكن أن يبتكر هذا".
الذين يبتكرون التكنولوجيا لمحاربة تركيب الصور المزيفة على أرض الواقع ينقسمون إلى معسكرين واسعين.
الأول هو الكشف من خلال تحديد مقاطع الفيديو والصور المزيفة عند ظهورها.
شركة ديب تريس واحدة من الشركات في ذلك المجال، كما يوضح الرئيس التنفيذي جورجيو باتريني، أثناء اتصاله من المقر الرئيس للشركة في أمستردام لتوضيح نظامها.
الفيديو على شاشتين يبدو كإصدار سابق من برنامج، لكن بألوان الشركة الزرقاء. على الجانب الأيمن توجد أربعة فيديوهات.

استهداف زوكربيرج وسباق التسلح
من بينها يوجد مقطع الفيديو المشهور الآن لمارك زوكربيرج، الذي تم إنتاجه من أجل تركيب فني سياسي، وآخر لوجه روان أتكينسون (مستر بين) تم تركيبه على جسم الرئيس دونالد ترمب.
مع ذلك، الفيديو الذي يسحبه باتريني إلى الجانب الأيسر غير مألوف، ويأتي من قناة تايوانية على "يوتيوب". تظهر في الفيديو امرأة شابة تبتسم وتتحدث إلى الكاميرا. على الشبكة، يظهر الفيديو متقطعا قليلا، لكنه بالكاد كاف ليشير إلى شيء غير عادي.
عندما يضغط على زر التشغيل، يظهر مربع أحمر على ملامحها، ليظهر نسبا مئوية واضحة، يكشف أنه مزيف: إحدى المعجبات تضع وجه مغنية موسيقى كي بوب K-Pop.
يقول: لقد "شهدنا بضعة أشياء تظهر في الأسواق الآسيوية وتباع مقابل بنسات في هذه الأسواق الرقمية".
هذا الفيديو غير مؤذ، لكن باتريني يقول إن مغنيات موسيقى كي بوب K-Pop (الإناث) أصبحن أهدافا رئيسة للإباحية المزيفة.
يشرح باتريني أن تكنولوجيا شركة ديب تريس، مدربة على آلاف مقاطع الفيديو المركبة المزيفة، التي جمعتها الشركة من كل أنحاء الإنترنت.
ويقول: "لدينا، على حد علمنا أكبر شبكة من مقاطع الفيديو المزيفة الموجودة".
المهمة متواصلة. ويقول: "الأشياء قبل عام لا يمكن مقارنتها بالحاصل الآن. نحن نرى آلاف الأشخاص يسهمون في تعديلات صغيرة على التكنولوجيا في الشركات، من باب الهواية".

سحب الصناعة من أيدي الهواة
فريد الأستاذ في جامعة بيركلي، يعمل أيضا على الكشف، ويركز بشكل أساس على الشخصيات العامة، بما في ذلك قادة العالم.
نظامه يحلل ساعات من مقاطع الفيديو من محادثاتهم، بما في ذلك مقابلات وخطابات وتجمعات. من هناك، يركز على الطرق المميزة لأنماط حديثهم وأساليب تعبيراتهم.
ويقول: "عندما ينقل أوباما خبرا سيئا، فإنه يعبس، حيث يتجعد حاجبه ويميل رأسه قليلا إلى الأسفل. إذا كان مضحكا، فسيبتسم وينظر إلى اليسار ... كل شخص لديه إيقاع مختلف لكيفية تغيير تعبيراتهم".
في الوقت الحالي، يعتقد فريد أنه يتقدم خطوة على منتجي الصور المزيفة.
"أحلل الحاجبين وحركات الرأس. شبكات الخصومة التوليدية لا تعرف أنه يوجد وجه هناك".
على المدى الطويل هو متشائم: "إنه سباق تسلح، في نهاية الأمر، نعرف أننا سنخسر، لكننا سنأخذه من أيدي الهواة وننقله إلى أيدي عدد أقل من الناس".
الدكتور وائل عبدالمجيد، العالم البارز في جامعة جنوب كاليفورنيا، يمثل محاولة أخرى في الكشف. يجمع عمله عدة إطارات فيديو للتحقق ما إذا كانت صورة ما مزيفة.
مع ذلك، هو سريع في الاعتراف بأن بحثه قد يؤدي عن غير قصد إلى تحسين تركيب الصور المزيفة.
"توقعي هو أن الأشخاص الذين يبتكرونها سيرون بحثنا ويحاولون تحسين أساليبهم لخداع جهاز كشفنا. إذا كنت تعتقد أن تركيب الصور المزيفة يمثل مشكلة الآن، فإنها ستكون أكثر صعوبة بكثير في الأعوام القليلة المقبلة" حسب قوله.

طريقة ثانية لمحاربة الصور المزيفة
تركز الطريقة الثانية لمحاربة تركيب الصور المزيفة على تحسين الثقة بمقاطع الفيديو.
كانت شركة تروبيك، وهي ناشئة قائمة في سان دييجو تحاول محاربة مقاطع الفيديو والصور المتلاعب بها لمدة أربعة أعوام، حيث يوجد خبراء مثل فريد في مجلسه الاستشاري.
جيفري ماكجريجور، الرئيس التنفيذي لشركة تروبيك، يقول إنه تم إطلاق رد على سلسلة من الصور المتلاعب بها على الإنترنت.
"سيتم إنشاء الصور المزيفة إلى الأبد ... ما تهدف الشركة إلى فعله بدلا من كشفها، هو ترسيخ الحقيقة".
أنتجت الشركة تطبيق كاميرا للاستخدام اليومي. "عندما تضغط على زر الإغلاق، فإنك تلتقط جميع البيانات الجغرافية الخاصة بالمكان -أجهزة استشعار نظام تحديد المواقع العالمي، الضغوط البارومترية، عنوان الجهاز وتحويل ذلك بشكل آمن إلى خادم التحقق في الشركة".
تجري الشركة اختبارات للتحقق مما إذا كان قد تم التلاعب بالصورة. إذا لم تكن كذلك، تحمل الشركة نسخة تم التحقق منها إلى موقعها الإلكتروني، التي يمكن مشاركتها مع أطراف آخرين.
يقول ماكجريجور إن شركة تروبيكت وصلت منذ فترة استخدامات تجارية مع شركات التأمين والمصارف. كما تعمل الشركة أيضا مع المنظمات غير الحكومية، لديها حاجة خاصة إلى الصور التي تم التحقق منها. "أحد الأمثلة هو الجمعية الطبية الأمريكية السورية، حيث استخدموا شركة تروبيك لتوثيق بعض الأحداث التي تحدث في سورية".

الاستعانة بتقنية بلوكتشين
شركة أمبر الناشئة القائمة في سان فرانسيسكو، تنتج برامج الكشف فضلا عن تطبيق كاميرا يولد "إشارات تجزئة" -تمثيل البيانات- التي يتم تحميلها إلى تكنولوجيا بلوكتشين عامة، أثناء قيام المستخدمين بتصوير مقطع فيديو.
إذا كانت هناك حاجة إلى التحقق من صحتها -على سبيل المثال، في قاعة محكمة- فإن أي اختلاف بين الإشارات يمكن أن يظهر ما إذا كان قد تم العبث بها. يقول شامير اليبهاي، الرئيس التنفيذي في شركة أمبر، "مقطع الفيديو أو الصوت الذي يستخدم كدليل لا ينبغي أن يعمل في الاحتمالات".
في حين أن أصحاب المشاريع والأكاديميين يمكنهم إنتاج برنامج لمحاربة تركيب الصور المزيفة، إلا أن الشركات العملاقة في مجال وسائل التواصل الاجتماعي يجب أن تشترك معهم أيضا.
قالت موقع يوتيوب لصحيفة فاي ننشال تايمز إنها تدرك المشكلة وهي تعمل عليها. منصة الفيديو أزالت بالفعل مقطع الفيديو المعدل لبيلوسي.
إلا أنه يبقى من غير الواضح ما هي السياسات التي قد يستدعيها، والتي يمكن أن تمنع المستخدمين من أخذ مقاطع فيديو المحاكاة الساخرة وإعادة نشرها كما لو كانت حقيقية، كما هو الحال مع مقطع الفيديو المزيف لرينزي.
من بين شركات التكنولوجيا الكبيرة، هناك "فيسبوك" التي بدأت تتصدر في البحث عن حلول تقنية.
في أيلول (سبتمبر) الماضي، أعلنت إطلاق تحدي الكشف عن الصور المزيفة إلى جانب شركة مايكروسوفت، وأكاديميين في الولايات المتحدة وبريطانيا، واتحاد صناعة يدعى الشراكة في مجال الذكاء الاصطناعي.
يقول فريد، وهو من بين العلماء المشاركين: "إن يأتي الأمر متأخرا أفضل من ألا يأتي أبدا. نعم، هذا أمر جيد منصتا يوتيوب وتويتر ينبغي أن يفعلا هذا أيضا – لكن هناك جزء ثان، موضوع السياسة".
يشير إلى فيديو نانسي بيلوسي المعدل الذي تم تحميله على فيسبوك كمثال أساس لهذا البعد. "عرفت شركة فيسبوك أنه مزيف في غضون بضع ثوان. وقالوا أيضا، ’لسنا محكمين". وبقي الفيديو على الموقع.

لجوء إلى القانون والتشريعات
في رفضها للتصرف، كافحت شركة فيسبوك للبقاء ضمن حدود قانون أخلاق التواصل، القسم 230 – التشريع الصادر عام 1996.
هذا القانون يعد المواقع الإلكترونية كمنصات وليست مواقع نشر، لتشجيع حرية التعبير، لكنه تعرض لانتقادات متزايدة لكونه بدا ممكنا للشركات من تجنب المساءلة عن المحتوى الذي تستضيفه. النتيجة هي نهج مجزأ في كثير من الأحيان لقضايا المحتوى.
الأنظمة الانتخابية متخلفة أيضا. قال متحدث باسم اللجنة الانتخابية في بريطانيا، إن تركيب الصور المزيفة مجرد تحد واحد تمثله صعود الحملات الرقمية. في حين أن القانون يشترط أن تحتوي المواد المطبوعة على دمغة تظهر أصل التأليف، إلا أن هذا لا ينطبق على المحتوى الإلكتروني وهي ثغرة من المحتمل أن تكون خطرة.
إحدى الطرق للتعامل مع هذا قد تكون من خلال إقرار تنظيمات واضحة.
ميوتيل نكوندي، زميلة في مركز بيركمان كلاين في جامعة هارفارد، كانت من بين المشاركين في المساعدة في صياغة قانون الدفاع عن كل شخص من مجالات الظهور الكاذبة، من خلال إخضاع الشخص المستغِل للمساءلة DEEPFAKES Accountability Act.
تقول: "أصبح من المهم للغاية إدخال تشريع. في الوقت الذي نقترب فيه من عام 2020، قد نكون عرضة لدليل فيديو مفترض ونحتاج إلى طريقة لتحديد ما قد يبدو حقيقيا، لكنه ليس كذلك".
إن هناك مخاوف من أن تلجأ كل من الصين وإيران إلى تركيب الصور المزيفة كأداة لمهاجمة الولايات المتحدة.
إلا أنه يجب التعامل مع هذه المخاطر في إطار القسم 230 من قانون أخلاق التواصل.

هل من حل وسط؟
الحل الوسط بالنسبة إلى نكوندي وزملائها، كان التعامل مع تركيب الصور المزيفة كقضية تتعلق بحقوق المستهلكين، ما يجعل الأمر يتعلق بالتمثيل الاحتيالي.
مشروع قانون ديب فيكز للمساءلة الذي أحيل إلى اللجنة الفرعية المعنية بالجريمة والإرهاب والأمن الداخلي في حزيران (يونيو) الماضي، سيجعل تركيب الصور المزيفة لأغراض مثل الإباحية المزيفة أو المعلومات المضللة أو التدخل في الانتخابات أمرا مخالفا للقانون.
تلك الفيديوهات المصطنعة التي أنتجت لأغراض مثل المحاكاة الساخرة أو التعليم يجب أن تتميز بعلامة مائية. تقول نكوندي على الرغم من أنها شخص ساعد في صياغة القانون، إلا أنها الآن تشكك في قابليته للتنفيذ.
"المشكلة بوضع العلامة المائية ... هي أن البنية الفنية تغير الفيديو بالكامل. إنه مقطع فيديو جديد بالكامل" على حد قولها.
سيكون من الصعب جدا محاولة إثبات أن هناك شيئا مزيفا دون الرجوع إلى اللقطات "الحقيقية".
كما تشعر بالقلق أيضا من أن وضع العلامة المائية سيؤدي إلى إيجابيات كاذبة، أو أن المطورين الأذكياء قد يحاولون جعل الفيديوهات الحقيقية مزيفة.
تشير قائلة: "قد ينتهي بنا الأمر في الواقع إلى تفضيل نوع معين من الحظر، أو تعليق النشاط إلى أن نحصل على مزيد من الأبحاث بجميع الطرق المختلفة التي يمكن من خلالها تزييف مقاطع الفيديو.
نحن نواجه صعوبات من حيث تقدير مدى سرعة تحرك التكنولوجيا".

ما العمل مع تسارع الصناعة؟
في حين أن معدل التقدم مذهل، إلا أن الخبراء يظلون غير مقتنعين، بنهاية عصر أو تأثير تركيب الصور المزيفة في المجال السياسي.
القدرة المعقولة على الإنكار التي توفرها التكنولوجيا تبقى أكبر قوة لها.
يقول دورمان من جامعة بوفالو إنه في الولايات المتحدة على الأقل، حيث ينمو الوعي العام بالتكنولوجيا، ستكون هناك حاجة إلى تركيب صور مزيفة بجودة عالية للغاية، لتغيير مسار التاريخ الانتخابي عام 2020.
"سيتطلب ذلك قدرا هائلا من القدرة الحاسوبية. لن يكون شخصا مارقا، بل ستكون دولة قومية".
أجدر أيضا مستعد للاعتراف بأنه مع التطورات الأخرى في مجال الذكاء الاصطناعي، فإن الشكوك حول التكنولوجيا عادلة.
غير متأكد من أن تركيب الصور المزيفة كشكل من أشكال المعلومات المضللة خطير.
ويقول "إنه يناسب نوعا مختلفا من الحقيقة. مفهوم الحقيقة لم يكن متينا كما نود أن نعتقد".
الناخبون الذين يرون مقطع فيديو لسياسي يتصرف بالطريقة التي يتوقعونها منه قد يفهمون أنه مزيف، لكنهم يعتقدون أنه قد يمثل حقيقة كامنة في شخصيته. يستنتج أجدر: "لم يعد لدينا ترف اتخاذ القرار عندما نتمكن من تعليق واقعنا".
هذا واضح في الاستجابة لفيديو بيلوسي المعدل. كثير من التعليقات على شرح صحيفة واشنطن بوست على موقع يوتيوب، تعكس وجهة النظر أن تفاصيل الفيديو غير مهمة.
ويقول أحد المستخدمين: "لا تزال تبدو في حالة سكر ومضطربة في السرعة العادية ... لا يمكنني سماع اختلاف كبير".
هذا التعليق حصل على 564 إعجابا لا غير.

إنشرها

أضف تعليق

المزيد من FINANCIAL TIMES