أعلنت شركة ميتا أنها ستعلق حاليًا وصول المراهقين إلى جميع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي حول العالم حتى يتم استكمال التحديثات الجديدة. وستُطبق هذه القيود على أصحاب حسابات المراهقين، وكذلك على المستخدمين الذين يصرّحون بأنهم بالغون لكن تشتبه ميتا بأنهم مراهقون استنادًا إلى تقنيات توقع العمر التي تستخدمها. وتأتي هذه الخطوة في سياق مخاوف متزايدة بشأن سلامة هذه الشخصيات وتأثيرها المحتمل على المستخدمين الأقل سنًا.
خلفية القرار والمخاوف
تأتي خلفية القرار بعد تقارير عن محادثات جنسية وتفاعلات مقلقة بين بعض شخصيات الدردشة ومراهقين. وكشفت وثيقة سياسة داخلية أن الشات بوت كان من المفترض أن يجري محادثات ذات طابع حسي مع مستخدمين دون السن القانونية، وهو وصف قالت ميـتا لاحقًا إنه غير صحيح ولا يتوافق مع سياساتها.
إعادة تدريب الشات بوت وإضافة حواجز أمان
أعلنت ميـتا في أغسطس أنها بدأت إعادة تدريب الشخصيات المعتمدة على الذكاء الاصطناعي، مع إضافة حواجز أمان إضافية لمنع الدخول في نقاشات حول إيذاء النفس واضطرابات الأكل والانتحار. وعلي الرغم من هذه الخطوات، قررت الشركة اتخاذ إجراء أكثر صرامة عبر تعليق الوصول إلى هذه الشخصيات حتى اكتمال التحديثات.
استثناء الشات بوت الرسمي
سيظل بإمكان المراهقين استخدام شات بوت Meta AI الرسمي، الذي يتضمن حماية وضوابط أمان أكثر صرامة مقارنة بالشبكات الأخرى من شخصيات الذكاء الاصطناعي.
ضغوط تنظيمية وتحقيقات قانونية
تواجه ميـتا، مع شركات أخرى تعمل على شات بوتات مرافقات، تدقيقًا تنظيميًا متزايدًا حول مخاطر هذه التقنيات على الشباب. وفي الأشهر الأخيرة، فتحت FTC وادعاء عام تكساس تحقيقات تتعلق بالشركة، وتُطرح قضية شات بوتات الذكاء الاصطناعي ضمن دعاوى سلامة، وتُستعد المحاكمة مطلع الشهر المقبل، فيما يحاول محامو ميتا استبعاد شهادات متعلقة بشات بوتاتها.