ندعو الحكومة الأمريكية إلى اتخاذ موقف عاجل حيال استخدام نموذج جروك داخل الوكالات الفدرالية وتقييم سلامته بشكل فعّال، إذ وقع تحالف منظمات غير ربحية رسالة مفتوحة بهذا الشأن وأكد مخاطر واسعة على السلامة والخصوصية والعدالة الاجتماعية.
خلفية وسياق الاستخدام
تشير الرسالة المفتوحة إلى أن استمرار استخدام جروك يتعارض مع التوجيهات التنفيذية والقوانين الحديثة مثل Take It Down Act، وأن النموذج أظهر إخفاقات منهجية في السلامة بما في ذلك إنتاج محتوى معاد للسامية ومتحيز ضد النساء وصور فاضحة للأطفال، وأن تقارير أشارت إلى أن النظام قد ينتج آلاف الصور المخلة كل ساعة وينتشر ذلك على نطاق واسع.
المخاطر والعيوب المرتبطة بالنموذج
وتوضح الرسالة أن النموذج مغلق المصدر يجعل التدقيق في طريقة اتخاذ القرارات صعباً، ما يزيد من المخاطر، كما أن مخرجاته قد تكون منحازة أو تمييزية إذا استُخدمت في وزارات مثل الإسكان والعمل والعدل.
العقود والتبعات على الأمن القومي
وذكرت الرسالة أن xAI وقّعت مع الإدارة العامة للخدمات الأمريكية اتفاقاً لبيع جروك للوكالات الفدرالية، كما أُشير إلى عقد يصل إلى مئتي مليون دولار مع وزارة الدفاع، وأن وزير الدفاع أعلن أن جروك سينضم إلى شبكة البنتاغون ضمن مشروع Gemini، وهو ما يرى خبراء الأمن القومي أنه يمثل مخاطر عالية على الأمن القومي.
المخاطر على الأمن القومي والعدالة الاجتماعية
وحذر خبراء الأمن السيبراني من أن الاعتماد على نماذج مغلقة المصدر يعوق التدقيق والمراجعة، ما يجعل القرارات غير شفافة، كما أشارت أصوات ناشطة إلى أن وجود نماذج منحازة قد ينعكس سلباً على المواطنين إذا استُخدمت في مجالات مثل الإسكان أو العمل أو العدل.
المطالب والإجراءات المطلوبة
وتطالب الرسالة مكتب الإدارة والميزانية (OMB) بفتح تحقيق رسمي حول إخفاقات جروك، وتوضيح ما إذا خضع النموذج لتقييمات السلامة المطلوبة، كما تدعو لتعليق استخدامه فوراً حتى التأكد من مطابقته لمعايير الحياد والشفافية، ووضع سياسات واضحة للتدقيق المستقل في أنظمة الذكاء الاصطناعي المستخدمة في القطاع الحكومي.
نؤكد أن حماية حقوق الإنسان والسلامة والعدالة تتطلب تدقيقاً عاماً وشفافية، وتدعو الحكومة الأمريكية إلى اتخاذ خطوات فورية لحماية الموارد العامة والمواطنين من مخاطر استخدام تقنيات الذكاء الاصطناعي المغلقة المصدر.
