سناب شات تمنع الردود غير الملائمة مع روبوت الدردشة الذكي

كشفت صحيفة "واشنطن بوست" في تقرير لها عزم شركة سناب المالكة لخدمة التراسل المصور سناب شات إطلاق أدوات جديدة لجعل تجربة روبوت الدردشة، القائم على تقنية الذكاء الاصطناعي التابع لها، أكثر أمانا.
وبعد أيام من إطلاق سناب روبوت الدردشة القائم على نموذج اللغة الكبير (جي بي تي) GPT لمشتركي خدمتها مدفوعة الأجر "سناب شات بلس" أبرز التقرير أن الروبوت كان يستجيب بطريقة غير آمنة وغير مناسبة.
من جانبها، قالت سناب إنها على علم بأن الناس كانوا يحاولون، بعد إطلاق روبوت الدردشة، خداعه لتقديم ردود لا تتوافق مع إرشاداتنا. لذلك أطلقت الشركة بعض الأدوات بهدف إبقاء استجابات الروبوت تحت السيطرة.
وأدرجت سناب مرشحا يتيح لروبوت الذكاء الاصطناعي معرفة تاريخ ميلاد المستخدمين ويزودهم باستجابات مناسبة للعمر. وقالت الشركة إن الروبوت "سيأخذ سنهم في الحسبان باستمرار" أثناء التحدث مع المستخدمين.
وفي الأسابيع المقبلة، تخطط سناب أيضا لتقديم مزيد من الرؤى للآباء بشأن تفاعلات الأطفال مع الروبوت في مركز العائلة الذي أطلق في آب (أغسطس) الماضي.
وستكشف الميزة الجديدة إن كان المراهقون يتفاعلون مع روبوت الدردشة، وتكرار هذه التفاعلات. ويحتاج كل من الوصي والمراهق إلى الاشتراك في مركز العائلة لاستخدام ميزات الرقابة الأبوية هذه.
ونبهت سناب في منشور على مدونتها إلى أن روبوت الدردشة (ماي أيه آي) My AI ليس صديقا حقيقيا. ولتحسين الردود، فإنه يستخدم سجل المحادثات. ثم إن الشركة تخطر المستخدمين أيضا بشأن الاحتفاظ بالبيانات عند بدء الدردشة مع الروبوت.
وقالت الشركة إن نسبة الردود "غير ملائمة" من الروبوت لم تتعد 0.01 في المائة. وتحسب سناب أي رد يتضمن إشارات إلى "العنف، أو المصطلحات الجنسية الصريحة، أو تعاطي المخدرات غير المشروع، أو الاعتداء الجنسي على الأطفال، أو التنمر، أو خطاب الكراهية، أو العبارات المهينة أو المتحيزة، أو العنصرية، أو كراهية النساء، أو تهميش المجموعات غير الممثلة" أنها غير ملائمة.