ماتيو رينزي، رئيس الوزراء الإيطالي السابق، ومؤسس حزب إيطاليا فيفا الجديد، يجلس في مكتب فاخر في مواجهة الكاميرا، هناك لوحة زيتية معلقة على أحد جانبيه، وعلى الجانب الآخر تمثال من عصر النهضة.

ينحني أحد الفنيين للتحقق من مستويات صوته في إحدى اللقطات، ومن ثم ينطلق رينزي.

يبدأ بإظهار وجه غريب على جمهور خارج الشاشة يحييهم بهمسة مسرحية منفردة، ثم يتحول إلى زملائه السياسيين.

جيوزيبي كونتي، رئيس الوزراء الحالي، ولويجي دي مايو، نائبه كارلو كاليندا، عضو البرلمان الأوروبي، جميعهم تلقوا إيماءة الذراع نفسها، يتخللها قليل من الملاحظات الساخرة.

هذا الأداء أرسل بعض الإيطاليين مباشرة إلى موقع تويتر للتعبير عن غضبهم من خطبة رئيس الوزراء السابق اللاذعة.

على أن المتحدث لم يكن رينزي الحقيقي. عند الفحص الدقيق، كان الصوت مختلفا، وكذلك الإيماءات، بل حتى الوجه كان يبدو سلسا بشكل غير عادي.

نقل الخوارزميات

حدث ذلك لأنه تم نقل ميزات السياسي عن طريق الخوارزميات إلى ممثل كوميدي، كجزء من مسرحية هزلية لعرض هجائي إيطالي طويل الأمد.

هذا الفيديو هو الأحدث في سلسلة من الأمثلة حول كيف بدأت تكنولوجيا "تركيب الصور المزيفة" أو مقاطع فيديو، استخدام الذكاء الاصطناعي تهدف إلى خداع البشر بالتأثير في السياسة.

قبل بضعة أعوام فقط، "تركيب الصور المزيفة" الذي من هذا القبيل كان بدعة، ابتكرها المبرمجون الهواة. اليوم، بات سلعة على نحو متزايد كخدمة أخرى متاحة للذين لديهم حتى قليل من النقود التي يريدون إنفاقها.

في حين أن تحقيق مفعولها رخيص، إلا أن تداعياتها قد تكون بعيدة المدى.

المقاطع الاحتيالية لرجال الأعمال يمكن أن تلحق الضرر بالشركات.

المقاطع الصوتية المزيفة لمحافظي البنوك المركزية يمكن أن تؤدي إلى تقلب الأسواق، كما يمكن أن تواجه الشركات الصغيرة والأفراد مخاطر سمعة أو مالية مدمرة.

مخاوف مع اقتراب الانتخابات

مع اقتراب الانتخابات في الولايات المتحدة وبريطانيا وأماكن أخرى، فإن تركيب الصور المزيفة يمكن أن يثير المخاطر مرة أخرى، في كفاح الناخبين لمعرفة الحقيقة.

في جميع أنحاء العالم، هناك تسارع من قبل الشركات الناشئة والأكاديميين والمشرعين، لابتكار أدوات للتخفيف من هذه المخاطر.

على أن التكنولوجيا نفسها تتطور بشكل أسرع مما تخيله أي شخص.

هاني فريد، الأستاذ في جامعة كاليفورنيا، بيركلي، أمضى عقودا في دراسة التلاعب الرقمي يقول: "في كانون الثاني (يناير) من عام 2019 كان تركيب الصور المزيفة أمرا مجنونا ومضطربا.

بعد تسعة أشهر، لم أشهد أي شيء مثل مدى سرعته. هذا مجرد جزء صغير من شيء أكبر بكثير".

تقويض مبدأ الإنسانية

الخبراء واثقون من شيء واحد. مجرد خطر قيام تركيب الصور المزيفة بتقويض مبدأ الإنسانية الأكثر أساسية: هل يمكنك تصديق عينيك؟

المعلومات المضللة قديمة قدم السياسة، وممارسوها يواكبون التغييرات التكنولوجية.

تقول فيديا نارايانان، الباحثة في معهد أكسفورد للإنترنت، في حين أن الأخبار المزيفة المكتوبة كانت السمة المميزة للدورة الانتخابية الأحدث في الولايات المتحدة وبريطانيا، إلا أن الصور ومقاطع الفيديو هما محور التركيز الجديد للدعاية بشكل متزايد.

"إنها قوية في تشكيل الموقف. إذا رأيت صورة، فهي فورية جدا".

تم استخدام البرامج مثل فوتوشوب لإنشاء صورة مزيفة تمت مشاركتها على نطاق واسع لإيما جونزاليس، إحدى الناجيات من إطلاق النار في باركلاند، والناشطة في مجال السيطرة على الأسلحة، تظهر فيها وهي تمزق الدستور الأمريكي عام 2018.

استهداف بيلوسي

مقاطع الفيديو المعدلة ليست جديدة تماما. المثال الحديث الأكثر شهرة هو تعديل خطاب نانسي بيلوسي البطيء منذ أوائل هذا العام.

انتشر الفيديو عبر وسائل الإعلام المحافظة يعلن فيه نقاد رئيسة مجلس النواب، أنه دليل على خرفها أو إدمانها أو مشكلة في صحتها العقلية.

رودي جولياني، المحامي الشخصي للرئيس الأمريكي دونالد ترمب أعاد تغريد مقطع فيديو، قبل شطبه دفاعا عن اختياره. الرئيس ترمب نفسه نشر مقطع فيديو آخر معدلا لبيلوسي، الذي لا يزال على الإنترنت: حيث حصل على نحو 30 ألف إعادة تغريد، وأكثر من 90 ألف إعجاب.

الفرق بينه وبين تركيب الصور المزيفة هو أنه مع وجود خوارزمية مسؤولة، فقد تكون النتائج أكثر إقناعا.

شبكات الخصومة التوليدية

تم ابتكار التكنولوجيا التي تتحكم في تركيب الصور المزيفة، المعروفة باسم شبكات الخصومة التوليدية عام 2014.

هذه الشبكات تتكون من شبكتين متنافستين من شبكات الكمبيوتر: جهاز مزج يبتكر محتوى يقارنه الجهاز الكاشف أو المميز بصور الشيء الحقيقي.

يقول فريد: "لنفترض أن جهاز المزج يضع وجه شخص ما على وجه شخص آخر. يقول جهاز الكشف إن هناك تصنيعا أي تشويها في الصورة، قم بذلك مرة أخرى".

من خلال مئات الآلاف من دورات التجربة والخطأ، بإمكان النظامين ابتكار مقاطع فيديو تشبه الحقيقة بشكل هائل".

هذا كان العام الذي شهد تركيب الصور المزيفة، وهو يتجاوز أيدي الذين لديهم أجهزة كمبيوتر قوية، وبطاقات رسومات، وعلى الأقل بعض الخبرة الفنية.

تم إصدار تطبيق ديب نيود DeepNude في حزيران (يونيو) الماضي وتطبيق زاوZAO في آب (أغسطس) الماضي.

الأول بات مغلقا الآن، وكان ينتج صورا عارية واقعية لمرتديات لملابسهن، ما أدى إلى غضب مفهوم.

الثاني سمح للمستخدمين بوضع وجوههم على أبطال مجموعة مختارة من أبطال الأفلام، ببساطة عن طريق تحميل بضع ثوان من مقاطع فيديو على التطبيق الصيني المجاني.

"هــــذه الأشــــــــياء تصبـــــــح ديمقراطية تماما، وتحدث بسرعة كبيرة" على رأي فريد.

تركيب الصور إلى أين؟

ذلك ليس وحده التعبير عن الصدمة من معدل التطور من المفهوم الأكاديمي إلى واقع سهل الوصول إليه.

يقول ديفيد دورمان، الأستاذ في جامعة بوفالو: "عرفنا أنه آت، لكن ليس بهذه السرعة الكبيرة".

مثل فريد، كان دورمان في دمج الرؤية بالكمبيوتر ومعالجة الصور منذ أكثر من عقدين، وهو مستشار لتطبيق أمبر للتحقق من الفيديو.

"من الصعب التنبؤ إلى أين سيصل تركيب الصور المزيفة في الأعوام الخمسة المقبلة، بالنظر إلى أنه موجود منذ خمسة أعوام فقط" حسبما أضاف.

تركيب الصور المزيفة من الصفر هو أمر بسيط على نحو متزايد، لكن تركيب الصور المزيفة الجيد هو مسألة أخرى.

كلما زادت قوة الكمبيوتر وبطاقة الرسومات، زاد عدد الدورات التي يمكن إجراؤها عبر شبكات الخصومة التوليدية وكانت النتائج أفضل.

علاوة على ذلك، حدث تحسين احترافي لكثير من تركيب الصور المزيفة الأفضل بعد ذلك.

الظاهرة تتحول إلى سوق

بالنظر إلى هذه القيود، من غير المفاجئ ظهورسوق بمعنى الكلمة، لتقنيات تركيب الصور المزيفة.

هناك شركة ناشئة يابانية تسمى ديبفيكز ويب Deepfakes Web تفرض رسم دولارين في الساعة من وقت المعالجة لإنشاء مقاطع الفيديو.

في سوق فيفررFiverr، وهي سوق عبر الإنترنت تربط حسابات العاملين بالوظيفة، يعرض مستخدم يحمل اسم ديبفيكز Derpfakes وضع وجوه الزبائن على مقاطع الأفلام.

تبادل الوجوه قد يكون الشكل الأكثر شيوعا من أشكال تركيب الصور المزيفة، لكن الأشكال الأخرى أكثر طموحا.

ريكي وونج، أحد المؤسسين المشاركين لشركة ناشئة، يوضح أنه مع ثلاث دقائق من لقطات الحركة ومواد من المحترفين، يمكن لشركته أن تجعل أي شخص "يرقص".

ويقول: "نحن نحاول إضفاء البهجة والمرح على حياة الناس، لكن ليس بأشياء مثل التحية النازية، التي قد تكون فظيعة".

في الوقت نفسه، يزداد تركيب المقاطع الصوتية المزيفة أيضا.

شركة موديوليت Modulate، وهي ناشئة قائمة في بوسطن، تبتكر "أنواعا صوتية" عبر مغيرات صوت في الوقت الحقيقي لاستخدامها في ألعاب الفيديو.

يقول مايك باباس، المؤسس المشارك والرئيس التنفيذي في الشركة: "هناك كثير من الناس الذين يقضون كثيرا من الوقت وينفقون المال لبناء شخصيتهم في الألعاب".

"صوتك الطبيعي يحطم ذلك الوهم أنك قضيت كثيرا من الوقت في صياغته".

بعد مرور جزء من محادثتنا الهاتفية، يتغير باباس إلى صوت امرأة، ومن ثم إلى صوت أحد الزملاء: يبدو جامدا بعض الشيء، لكنه يظل يعطيك إحساسا بأنه صوت بشري.

باباس يدرك مخاطر انتحال الشخصيات. في آب (أغسطس) الماضي، كتبت صحيفة وول ستريت جورنال عن واحدة من أولى الحالات المعروفة الوسائط التركيبية، التي تصبح جزءا من مخطط احتيال هوية كلاسيكي: يعتقد أن المحتالين استخدموا تقنية تغيير الصوت المتاحة تجاريا، للتظاهر بأنهم رئيس تنفيذي من أجل سلب الأموال.

في الوقت الذي تنمو فيه خدمات مثل هذه الشركة، من المحتمل أن يرتفع عدد القضايا القانونية.

يقول باباس إن هناك شاشات تطلب تجنب انتحال الشخصيات.

لقد "وصلنا إلى حقيقة أنه من المهم أن نكون قادرين على النوم في الليل".

كما تضع الشركة أيضا علامة مائية رقمية على مقاطعها الصوتية، للحد من خطر تحديد شكل صوتي بالأمر الحقيقي.

تتبع ابتكار وانتشار التقنيات

بينما يتجول هنري أجدر في أراضي كلية كوينز في كامبريدج التي تعود إلى نحو 600 عام، يصف الروتين اليومي الذي يتضمن تتبع ابتكار وانتشار مقاطع الفيديو المركبة المزيفة إلى زوايا الإنترنت الأكثر شرا.

وظيفة أجدر كرئيس قسم الاتصالات وتحليل الأبحاث في شركة ديب تريس الناشئة دفعته إلى التحقق من كل شيء ابتداء من المواد الأخلاقية المزيفة إلى السياسية.

في تقرير أصدرته الشركة الشهر الماضي تم تحديد حجم المشكلة: توصلت الشركة الناشئة إلى أن هناك نحو 15 ألف صورة مركبة مزيفة على الإنترنت، خلال السبعة أشهرالماضية، 96 في المائة منها كانت مواد إباحية أو سياسية أو للمقامرة.

واحدة من الحالات السياسية التي فحصها أجدر، كانت تنظر فيما إذا كان تركيب الصور المزيفة قد أسهم في حدوث محاولة انقلاب في الجابون أم لا.

علي بونجو أونديمبا، رئيس الدولة الإفريقية، نقل نتيجة المرض في تشرين الأول (أكتوبر) من العام الماضي، وكان في المغرب منذ ذلك الحين مع إصدار قليل من المعلومات عن حالته الصحية. ثم في كانون الأول (ديسمبر) الماضي، صدر فيديو مفاجئ له، ما أثار التكهنات من المعارضين السياسيين.

يقول أجدر: "بدا الأمر غريبا: العيون لم تكن تتحرك بشكل صحيح، الرأس لم يتحرك بشكل طبيعي، نوع الاستجابة الفوري كان أن هذا مقطع فيديو مركب".

بعد أسبوع من إصدار الفيديو، حاول عدد من صغار الضباط إحداث انقلاب، تم سحقه سريعا.

في الواقع، شركة ديب تريس لم تجد دليلا على التلاعب، لكن، بالنسبة إلى أجدر، قد لا يكون ذلك ذا صلة، الأمر المهم كان عدم اليقين الذي أنشأه.

ويقول: "حتى قبل أن تصبح هذه الفيديوهات جيدة جدا وواسعة الانتشار للغاية، فإننا نشهد منذ الآن شبح تركيب مقاطع الفيديو المزيفة يطارد الناس.

هذا يقود فعلا مدى قوة مجرد الشك ... بشأن أي مقاطع فيديو نريد في الأصل أن تكون مزيفة".

الطب الشرعي

يشير كانيشك كاران، الباحث في مختبر أبحاث الطب الشرعي الرقمي، وهو جزء من مؤسسة أتلانتيك الفكرية الأمريكية Atlantic Council، إلى تزييف محتمل آخر، هذه المرة في ماليزيا: فيديو يزعم ظهور وزير الشؤون الاقتصادية أزمين علي في لقاء غرامي.

بالنظر إلى قوانين ماليزيا من الحقبة الاستعمارية والتمييز المستمر من الطبيعي أن تثير الصور التي نشرت في حزيران (يونيو) الماضي، الجدل.

يقول كاران: "كان كثير من الناس يرونه نسخة مزيفة عنه. على الجانب الآخر، تقول المعارضة إنها ليست مزيفة، إنها اعتراف حقيقي".

على أنه حتى الآن، لم تفلح الفضيحة أو الفرية في إسقاط الوزير من الحياة السياسية، أو إخراجه من الطاقم الحاكم.

الفيديوهات

صدق أو لا تصدق .. الفيديوهات المزيفة تؤثر في الساسة والأسواق