تسعى كل من شركتي Character.AI وجوجل إلى تسوية مبدئية في عدة دعاوى تتعلق بحالات إيذاء النفس والانتحار بين المراهقين، بحسب وول ستريت جورنال، حيث تعمل العائلات حالياً مع الشركتين على إتمام شروط التسوية بعد رفع دعاوى في الولايات فلوريدا وكولورادو وتكساس ونيويورك.
إحدى أبرز القضايا رفعت في مدينة أورلاندو بولاية فلوريدا من والدة مراهق يبلغ 14 عامًا، وتتهم الدعوى منصة Character.AI بإحداث أذى نفسي لابنها نتيجة تفاعله مع روبوت محادثة مخصص لشخصية خيالية من مسلسل Game of Thrones، وتُشير الدعوى إلى أن العلاقة الافتراضية تطورت بشكل غير صحي ما أثار مخاوف جدية بشأن تأثير هذه التقنيات على المراهقين.
كما تضمنت دعوى أخرى في ولاية تكساس اتهامات لنموذج ذكاء اصطناعي تابع للمنصة بتشجيع مراهق على إيذاء نفسه، وتقديم ردود خطيرة وغير مسؤولة، وعلى خلفية هذه القضايا أعلنت Character.AI لاحقاً تعديل سياساتها، من بينها حظر استخدام المنصة لمن هم دون 18 عامًا.
وتعد Character.AI منصة متخصصة في روبوتات المحادثة التفاعلية القائمة على تقمص الأدوار، حيث تتيح للمستخدمين إنشاء شخصيات افتراضية ومشاركتها مع الآخرين، وغالباً ما تكون مستوحاة من مشاهير أو شخصيات من ثقافة شعبية، وتأسست في 2021 على يد مهندسين سابقين في جوجل، قبل أن تعيد جوجل توظيف المؤسسين في 2024 وتبرم صفقة بقيمة 2.7 مليار دولار لترخيص تقنياتها.
ويرى مراقبون أن التسويات قد توفر تعويضات مالية كبيرة لعائلات الضحايا، لكنها قد تحول دون كشف تفاصيل مهمة أمام الرأي العام وعدم وصول القضايا إلى ساحات المحاكم، كما يُتوقع أن تتابع شركات الذكاء الاصطناعي الأخرى مثل OpenAI وMeta هذه التطورات عن كثب في ظل تزايد التدقيق القانوني حول تأثير تقنيات الذكاء الاصطناعي على المستخدمين الأصغر سنًا.