الاستياء العام بشأن الخوارزميات
في دعوى قضائية جديدة مرفوعة في الولايات المتحدة ضد شركة "ميتا" الشركة الأم لفيسبوك وإنستجرام، تجادل41 ولاية ومقاطعة كولومبيا أن منصات الشركة على شبكات التواصل الاجتماعي -إنستجرام وفيسبوك- لا تسبب الإدمان فحسب، بل تلحق الضرر برفاهية الأطفال. واتهمت شركة "ميتا" بالمشاركة في "مخطط لاستغلال المستخدمين الشباب بهدف تحقيق الأرباح"، من خلال عرض محتوى ضار يبقيهم ملتصقين بشاشاتهم.
تعمل شركات التكنولوجيا الكبرى على تعظيم قيمة المساهمين من خلال نشر الخوارزميات لزيادة مشاركة المستخدمين، حيث عادة تتغلب الأرباح قصيرة الأجل على أهداف العمل طويلة الأجل، فضلا عن الصحة المجتمعية. وعلى حد تعبير عالم البيانات جريج ليندن، فإن الخوارزميات المبنية على "مقاييس سيئة" تعمل على تعزيز "الحوافز السيئة" وتمكين "الجهات الفاعلة السيئة".
يتطلب تحديد الأرباح في اقتصاد اليوم فهم كيفية استغلال المنصات المهيمنة لسيطرتها الخوارزمية على المستخدمين. عندما تحط الخوارزمية من نوعية المحتوى الذي تروج له، فإنها تستغل ثقة المستخدمين والمركز المهيمن الذي تعززه تأثيرات الشبكة. ولهذا السبب، تستطيع شركات فيسبوك وتويتر وإنستجرام أن تفلت من حشو صفحاتها بالإعلانات والمحتوى "الموصى به" المسبب للإدمان.
واليوم بعد أن أدى التقدم في مجال الذكاء الاصطناعي بالفعل إلى تعزيز التوصيات الخوارزمية، ما يجعلها أكثر إدمانا، هناك حاجة ملحة إلى هياكل إدارة جديدة موجهة نحو "الصالح العام" (بدلا من فكرة ضيقة الأفق عن "قيمة المساهمين") وشراكات تكافلية بين الشركات والحكومة والمجتمع المدني. ومن حسن الحظ أن صناع السياسات قادرون على دفع هذه الأسواق نحو الأفضل.
أولا، بدلا من الاعتماد فقط على قانون المنافسة ومكافحة الاحتكار، ينبغي لصناع السياسات اعتماد أدوات تكنولوجية لضمان عدم قدرة المنصات على التحكم في المستخدمين والمطورين بشكل غير عادل. تتمثل إحدى طرق منع "الحدائق المسورة" المانعة للمنافسة في فرض إمكانية نقل البيانات وقابلية التشغيل البيني عبر الخدمات الرقمية.
ثانيا، يشكل إصلاح إدارة الشركات ضرورة بالغة الأهمية، حيث تسبب تعظيم قيمة المساهمين في تشجيع المنصات على استغلال مستخدميها خوارزميا في المقام الأول. ونظرا للتكاليف الاجتماعية المعروفة المرتبطة بنموذج الأعمال هذا -عادة يعني زيادة عدد الضغطات تضخيم عمليات الاحتيال، والمعلومات المضللة، والمواضيع المثيرة للاستقطاب السياسي- فإن إصلاح الإدارة يتطلب إصلاح الخوارزميات.
ثالثا، ينبغي منح المستخدمين تأثيرا أكبر على تحديد الأولويات الخوارزمية للمعلومات المعروضة عليهم. وبخلاف ذلك، ستستمر الأضرار الناجمة عن تجاهل تفضيلات المستخدم في النمو، حيث تنشئ الخوارزميات حلقات ردود الفعل الخاصة بها، ما يدفع المستخدمين إلى ابتلاع طعم تصفح الروابط، ثم يستنتج خطأ أنهم يفضلون القيام بذلك.
رابعا، يجب أن يفسح معيار الصناعة "لاختبار A/B" المجال لإجراء تقييمات أكثر شمولا للتأثير طويل الأجل. يقود علم البيانات الخاطئ الخوارزميات على المدى القصير. على سبيل المثال، قد يوضح "اختبار A/B" أن عرض مزيد من الإعلانات على موقع معين سيكون له تأثير إيجابي قصير الأجل على الأرباح دون التأثير سلبا على الاحتفاظ بالمستخدمين.
خامسا، يجب نشر الذكاء الاصطناعي العام لتقييم جودة النتائج الخوارزمية، خاصة الإعلانات. بالنظر إلى الأضرار الكبيرة الناشئة عن المنصات التي تخفض مستوى الإعلانات المقبولة، تستخدم وكالة مراقبة الإعلانات في المملكة المتحدة الآن أدوات الذكاء الاصطناعي لفحص الإعلانات وتحديد أولئك الذين ينشرون "ادعاءات كاذبة".
لا يمكن لمحاكمة شركة ميتا المقبلة محو الأخطاء التي تم ارتكابها في الماضي. ومع ذلك، بينما نستعد للجيل المقبل من منتجات الذكاء الاصطناعي، يجب علينا إنشاء رقابة خوارزمية مناسبة. ولن تؤثر الخوارزميات المدعومة بالذكاء الاصطناعي على ما نستهلكه فحسب، بل على كيفية إنتاجنا وإبداعنا، ليس فقط ما نختاره، ولكن ما نفكر فيه. ينبغي ألا نرتكب هذا الخطأ.
خاص بـ " الاقتصادية"
حقوق النشر: بروجيكت سنديكت،2024
www.project-syndicate.org