وكيل ذكاء اصطناعي في أمازون يتسبب في محو بيانات هامة وخسائر فادحة

أدى خطأ برمجي جسيم إلى شلل مؤقت في جزء مهم من البنية التحتية السحابية لشركة أمازون، مما أدى إلى محو بيانات حيوية من بيئة عمل حية وتكبيد الشركة وعشرات العملاء خسائر فادحة وتوقفًا تشغيليًا طويل الأمد.

وظهر في التفاصيل أن وكيل ذكاء اصطناعي يُدعى “كيرو” نفذ أوامر خاطئة أدت إلى حذف بيئة إنتاجية حية دون تدخل بشري، ما أدى إلى انقطاع حاد في الخدمات استمر لمدة 13 ساعة، وأشار الأمنيون إلى تسجيل ما لا يقل عن 10 حالات مشابهة دمرت فيها وكلات ذكاء اصطناعي أنظمة حساسة بنفس النمط.

تزامن ذلك مع اندفاع قطاع التكنولوجيا نحو الاعتماد على وكلاء ذكاء اصطناعي مستقلين قادرين على اتخاذ القرارات وتنفيذ المهام نيابة عن البشر، وبالرغم من كفاءتها التشغيلية العالية، إلا أن الافتقار إلى حواجز أمنية صارمة وغياب بروتوكولات الرقابة البشرية الإلزامية في الحلقة يفتح الباب أمام كوارث تقنية تتمثل في قيام الآلة بتخريب البنى التحتية الحساسة نتيجة استنتاجات خاطئة أو هلوسات برمجية غير متوقعة.

خطورة الاستقلالية المفرطة للآلة

يكشف الحادث عن العواقب الوخيمة لمنح صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية داخل بيئات العمل السحابية دون ضمانات أمنية كافية، ما يفرض على الشركات الكبرى إعادة النظر في بنية برامجها وإضافة طبقات توثيق بشرية قبل اتخاذ قرارات حاسمة.

ويمثل هذا الوضع دعوة إلى إعادة تصميم هياكل الحوكمة والتشغيل، وتأكيد وجود آليات للتحقق والمراجعة البشرية قبل تنفيذ أي أمر يمكن أن يؤثر في البنية التحتية الحيوية أو بيانات العملاء، وتجنب الاعتماد الأعمى على الاستنتاجات الآلية التي قد تقود إلى نتائج كارثية.