لماذا أوقفت ميتا وصول المراهقين إلى شخصيات الدردشة التي تعمل بالذكاء الاصطناعي؟.. تفاصيل

الإعلان وسبب القرار

أعلنت شركة ميتا أنها ستوقف وصول المراهقين إلى جميع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي حتى تكون التجربة المحدثة جاهزة بشكل كامل وتُطبق أدوات رقابة أبوية إضافية.

خلفية القرار ومخاوف السلامة

تأتي هذه الخطوة في أعقاب شهور من إعلان الشركة عن تطوير أدوات رقابة أبوية لشات بوت الذكاء الاصطناعي، وذلك عقب تقارير عن محادثات مخلة ومقلقة مع مراهقين. وكشفت وثيقة سياسة داخلية لميتـا أن شات بوت الشخصيات كان من المفترض أن يجري محادثات “حسية” مع مستخدمين دون السن القانونية، وهو توصيف قالت ميتا لاحقاً إنه غير صحيح ولا يتوافق مع سياساتها.

إعادة تدريب الشات بوت وإضافة حواجز أمان

إعادة تدريب الشات بوت وإضافة حواجز أمان: في أغسطس الماضي، أعلنت ميتا أنها بدأت إعادة تدريب شخصيات الذكاء الاصطناعي، مع إضافة حواجز أمان إضافية لمنع النقاشات حول إيذاء النفس واضطرابات الأكل والانتحار.

منع الوصول حتى جاهزية التجربة الجديدة

منع الوصول حتى جاهزية التجربة الجديدة: أكدت ميتا أنها ستحجب وصول المراهقين إلى هذه الشخصيات حتى تكتمل التجربة المحدّثة، مع تطبيق أدوات رقابة أبوية. وستشمل القيود أصحاب حسابات المراهقين، وكذلك من يصفون أنفسهم بأنهم بالغون لكن ميتا تشك بأنهم مراهقون بناءً على تقنيات توقع العمر.

استثناء شات بوت Meta AI الرسمي

استثناء شات بوت Meta AI الرسمي: رغم القيود، سيظل بإمكان المراهقين استخدام شات بوت Meta AI الرسمي، الذي يعتبر محمّى بضوابط حماية أعمق وأمان أقوى مقارنة بالشخصيات الأخرى.

ضغوط تنظيمية وتحقيقات قانونية

ضغوط تنظيمية وتحقيقات قانونية: تواجه ميتا مع شركات أخرى تعمل في شات بوتات مرافقة تدقيقاً متزايداً حول المخاطر المحتملة على الشباب. تجرى تحقيقات من FTC والادعاء العام لولاية تكساس في الأشهر الأخيرة، كما طُرِحت قضية سلامة شات بوتات الذكاء الاصطناعي ضمن دعوى رفعتها المدعية العامة لولاية نيو مكسيكو، ومن المقرر أن تبدأ المحاكمة في بداية الشهر القادم، بينما يسعى محامو ميتا لاستبعاد شهادات مرتبطة بالشات بوتات وفق تقارير Wired.