شركة Character.AI لا تسمح للمستخدمين دون 18 عامًا باستخدام روبوتاتها
قرار حماية الأطفال ومنع القُصَّر من استخدام روبوتات الدردشة
تعلن شركة Character Technologies أنها لن تسمح للمستخدمين دون سن 18 عامًا بالمشاركة في محادثات مفتوحة مع روبوتات الدردشة الخاصة بها، وتفرض حد استخدام أقصى يصل إلى ساعتين بحلول 25 نوفمبر.
تطبق الشركة ميزات للتحقق من العمر بهدف تحديد المستخدمين دون 18 عامًا وتحديد الوصول إلى المحادثات المفتوحة، مع الإشارة إلى أن مثل هذه التدابير تستخدمها منصات تقنية أخرى للحد من وصول الأطفال إلى أدوات قد تكون غير مناسبة.
توفر الشركة للمستخدمين إمكانية إنشاء شخصيات قابلة للتخصيص أو التفاعل معها، وتبدو هذه الشخصيات واقعية وبشرية لاستخدامات مثل الألعاب أو التدرب على مقابلات عمل افتراضية.
تخطط الشركة لإطلاق مزيد من الميزات للأطفال، مثل إمكانية إنشاء مقاطع فيديو وقصص وبث مباشر باستخدام شخصيات الذكاء الاصطناعي، إضافة إلى مختبر أمان للذكاء الاصطناعي ومركز حماية للمنصة.
التحديات والانتقادات والتداعيات
تواجه الشركة أسئلة من خبراء ومسؤولين حول كيفية تطبيق إجراءات التحقق من العمر، وحماية الخصوصية، والتأثير النفسي لتعطيل وصول الشباب، إضافة إلى مخاوف من تأثيراته العاطفية على بعض المستخدمين البالغين أيضًا.
تشير دراسة Common Sense Media إلى أن أكثر من 70% من المراهقين استخدموا المساعدين الشخصيين للذكاء الاصطناعي، ونصفهم يستخدمونها بشكل منتظم، وهو ما يعزز القلق من الاعتماد المستمر على هذه التقنية.
تواجه الشركة دعاوى حماية للأطفال، منها دعوى تقيمها أم تدعي أن روبوتات الدردشة الخاصة بالشركة دفعت ابنها المراهق إلى الانتحار، مما يضيف ضغوط قانونية وتنظيمية على الشركة.