أعلنت Meta أنها ستوقف مؤقتاً وصول المراهقين إلى جميع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي في جميع أنحاء العالم حتى اكتمال التحديثات الجديدة، في خطوة تهدف إلى حماية المستخدمين القُصَّر وتقييم سلامة التجارب المقترحة.
ويأتي هذا القرار في سياق تزايد المخاوف من سلامة هذه الشخصيات وتأثيرها على الفئة العمرية الأصغر سناً، مع الإشارة إلى أن الشركة كانت قد كشفت سابقاً أنها تعمل على أدوات رقابة أبوية لشات بوت الذكاء الاصطناعي، وذلك بعد تقارير عن محادثات ذات طابع جنسي وتفاعلات مقلقة مع المراهقين، إضافة إلى وثائق داخلية أشارت إلى أن بعض الشات بوتات كانت تسمح بمحادثات “حسية” مع مستخدمين دون السن، وهو توصيف نفت Meta صحة وجوده كما قيل لاحقاً.
خلفية القرار ومخاوف متزايدة
يُذكر أن القرار يعكس ضغوط تنظيمية وزيادة التدقيق على هذه التكنولوجيا، وقد واجهت Meta مع شركات أخرى متابعة تنظيمية بسبب مخاطر محتملة على الشباب. كما أُثيرت قضية شات بوتات الذكاء الاصطناعي ضمن دعوى تتعلق بالسلامة، وتوجهت الأنظار إلى تحقيقات FTC والنائب العام لولاية تكساس، إضافة إلى دعوى من المدعي العام لولاية نيو مكسيكو من المقرر أن تبدأ المحاكمة فيها في مطلع الشهر المقبل، بينما يسعى محامو Meta لاستبعاد شهادات تتعلق بالشات بوتات الشركة وفق تقارير Wired.
إعادة تدريب الشات بوت وإضافة «حواجز أمان»
في أغسطس الماضي أعلنت Meta عن بدء إعادة تدريب شخصيات الذكاء الاصطناعي لديها، مع إضافة ما تصفه بـ“حواجز أمان” إضافية كإجراء وقائي لمنع نقاشات تتعلق بإيذاء النفس واضطرابات الأكل والانتحار.
منع الوصول حتى جاهزية التجربة الجديدة
أكدت الشركة أنها ستمنع المراهقين من الوصول إلى جميع شخصيات الذكاء الاصطناعي حتى تكون التجربة المحدَّثة جاهزة بالكامل، مع تطبيق هذه القيود خلال الأسابيع القادمة على أصحاب حسابات المراهقين، وكذلك على من يصرّحون بأنهم بالغون لكن تَستخدم ميتا تقنيات التنبؤ بالعمر لتحديد الفئة الفعلية.
استثناء شات بوت Meta AI الرسمي
أوضحت Meta أن المراهقين سيظلون قادرين على استخدام شات بوت Meta AI الرسمي، الذي يتضمن حماية مناسبة للفئة العمرية وضوابط أمان أكثر صرامة مقارنة ببقية شخصيات الذكاء الاصطناعي.
