أعلن المعهد الوطني للمعايير والتكنولوجيا (NIST) رسميًّا عن إطلاق مبادرة جديدة تحمل عنوان “معايير وكلاء الذكاء الاصطناعي” كخطوة تنظيمية كبرى لمعالجة التحديات الأمنية المرتبطة بالوكلاء المستقلين الذين يعملون دون تدخل بشري.
تهدف المبادرة إلى وضع أطر عمل واضحة تضمن أمان وموثوقية هذه الأنظمة، خاصة مع تزايد اعتماد الشركات على الوكلاء الذكاء الاصطناعي في إدارة البيانات الحساسة والعمليات التشغيلية المعقدة حول العالم.
أهداف المبادرة
تركز المبادرة على تحديد المعايير الفنية والبروتوكولات الأمنية التي يجب أن يلتزم بها المطورون لضمان ألا تخرج الوكلاء المستقلون عن السيطرة أو يتعرضوا للاختراق، وتأتي هذه الخطوة استجابة للتحذيرات من ثغرات محتملة في كيفية تفاعل أنظمة الذكاء الاصطناعي مع الأدوات والبرمجيات الأخرى.
وتسعى المبادرة إلى وضع لغة تقنية موحدة تتيح بناء وكلاء أذكياء لديهم دفاعات ذاتية والقدرة على الالتزام بالقواعد الأخلاقية والمهنية المحددة، بما يعزز الثقة ويحد من المخاطر في الاستخدام العالمي.
مواجهة مخاطر الوكلاء المستقلين
تهدف القواعد الجديدة إلى منع التفاعلات غير المقصودة أو الضارة بين أنظمة الذكاء الاصطناعي المختلفة، مما يقلل من احتمال وقوع حوادث تقنية نتيجة استقلال القرار، وتعد هذه المبادرة خطوة محورية في كيفية تعامل المجتمع الدولي مع الذكاء الاصطناعي، حيث تنتقل من التنظير الأخلاقي إلى التنظيم الفني الدقيق.
ومع استمرار تطور وكلاء الذكاء الاصطناعي ليصبحوا جزءًا أساسيًّا من الاقتصاد الرقمي، تبرز أهمية وجود معايير عالمية موحدة تضمن أن يظل هذا التطور مفيدًا وآمنًا تمامًا، مما يعزز الثقة العامة في التقنيات المستقلة ويحمي سلاسل التوريد البرمجية من التهديدات المتطورة.