مايكروسوفت تكشف اختراق “العملاء النائمين” فى نماذج الذكاء الاصطناعى

تعتمد مايكروسوفت منهجية أمنية جديدة تهدف إلى حماية نماذج اللغات الكبيرة من تهديدات سيبرانية تعرف باسم العملاء النائمين. وتتضمن هذه التهديدات أكوادًا أو تعليمات مخفية تزرع داخل النماذج أثناء مرحلة التدريب لتبقى خاملة حتى تفعيلها بواسطة كلمة مرور أو سياق محدد، مما قد يؤدي إلى تسريب بيانات حساسة أو تنفيذ هجمات برمجية خبيثة ضد المستخدمين أو المؤسسات.

وتعتمد الطريقة الجديدة على تحليل سلوك النموذج في بيئات معزلة ومحاكاة آلاف السيناريوهات لمحاولة استثارة استجابات غير طبيعية، ووفقًا لموقع أرتيفيشال إنتليجنس نيوز، نجحت مايكروسوفت في رصد أنماط دقيقة تشير إلى وجود هذه الأبواب الخلفية، مما يسمح للمطورين بتطهير النماذج قبل طرحها للاستخدام التجاري أو المؤسسي.

تأتي هذه الخطوة كجزء من استراتيجية الأمن أولًا التي تتبناها شركات التقنية الكبرى في عام 2026 لمواجهة التحديات التي يفرضها الذكاء الاصطناعي الهجومي. ومع تطور قدرات النماذج على كتابة الأكواد وتطوير البرمجيات، تصبح الثقة في سلامة هذه النماذج حجر الزاوية للاقتصاد الرقمي العالمي، حيث تسعى مايكروسوفت لضمان أن تكون أدواتها مثل كوبايلوت محصنة تمامًا ضد أي اختراقات استراتيجية.

آليات الكشف عن الثغرات المخفية

تستخدم التقنية الجديدة نماذج ذكاء اصطناعي رقابية تفحص أوزان الروابط داخل النموذج الضخم لرصد أي تكتلات غير منطقية قد تشير إلى تعليمات مشروطة مخفية، وتساعد هذه الأداة الشركات على تبني الذكاء الاصطناعي في قطاعات التمويل والدفاع دون الخوف من تشغيل برمجيات خبيثة قد تلتف على بروتوكولات الأمن التقليدية.

وسيؤدي الاعتماد على هذه الإجراءات إلى إدماج الذكاء الاصطناعي بشكل آمن في بنية تحتية حساسة، بما في ذلك القطاعات المالية والدفاعية.