أعلنت شركة OpenAI عن ميزتين أمنيتين جديدتين: ملصقات المخاطر المرتفعة ووضع الإغلاق. ستعمل الملصقات على تحذير المستخدمين عندما تكون ميزة متصلة بالويب تعرض احتمال كشف المزيد من البيانات، بينما يقيّد وضع الإغلاق كيفية اتصال ChatGPT بالأنظمة الخارجية.
وتقول الشركة إن هاتين الميزتين تهدفان إلى توفير تنبيهات أوضح وتحكماً أقوى في المعلومات، إضافة إلى تقليل مخاطر ما يُعرَف بهجمات حقن الأوامر.
وفي تدوينتها الرسمية، أوضحت أن مع تولّي أنظمة الذكاء الاصطناعي مهاماً أكثر تعقيداً، تتغير رهانات الأمان، ومن المخاطر الناشئة التي تزداد أهميتها هو حقن الأوامر. وتقدم حماية جديدة لمساعدة المستخدمين والمؤسسات على الحد من هذه الهجمات من خلال وضوح أكبر بشأن المخاطر وتحكم أقوى.
ما هو تهديد “حقن الأوامر”؟
يُعد حقن الأوامر تقنية يستخدمها القراصنة لإخفاء تعليمات خبيثة داخل صفحات ويب أو ملفات، بهدف خداع النظام وجعله يكشف معلومات سرية أو ينفذ إجراءات غير مقصودة. مع انتشار استخدام روبوتات المحادثة مثل ChatGPT من قبل ملايين الأشخاص في قراءة المستندات وتصفح الإنترنت وربط الحسابات بتطبيقات أخرى، تصبح مخاطر هذه الخدعة أكبر وأوسع تأثيراً. تسعى الأدوات الجديدة إلى حماية المستخدمين من هذه التهديدات.
ما هو وضع الإغلاق في ChatGPT؟
قدمت OpenAI وضع الإغلاق كخيار اختياري يقيد تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم. عند تفعيله يتم تقليل بعض الأدوات والاتصالات أو تعطيلها، مثل التصفح المباشر للويب والتكاملات التي ترسل وتستقبل معلومات من خارج خدمات خارجية. من خلال تقليل هذه التفاعلات الخارجية، تسعى OpenAI إلى تقليل ما يُعرف بسطح الهجوم الذي يمكن للقراصنة استغلاله.
وضع الإغلاق ليس ضرورياً لمعظم المستخدمين في الاستخدام اليومي، بل صُمم أساساً للمستخدمين الذين يتعاملون مع معلومات حساسة جداً أو قد يكونون عرضة لمخاطر مرتفعة، مثل الصحفيين والقيادات والباحثين والمتخصصين في الأمن السيبراني.
ما هي ملصقات المخاطر المرتفعة في ChatGPT؟
إلى جانب وضع الإغلاق، تقدم OpenAI أيضاً ملصقات المخاطر المرتفعة داخل ChatGPT. ستظهر الملصقات بجانب الأدوات أو الميزات التي تنطوي على درجة أعلى من التعرض للمحتوى الخارجي أو وصول أوسع إلى النظام. إذا كانت إحدى الميزات تتصل بمحتوى خارجي أو تمنح وصولاً أوسع إلى النظام، سيعرض ChatGPT تنبيهاً واضحاً بشأن المخاطر المحتملة، ما يساعد المستخدمين في اتخاذ قرار المتابعة أو الحفاظ على مستوى خصوصية أعلى.
لماذا تحتاج هذه الميزات؟
تشير OpenAI إلى أن أقوى أدوات ChatGPT تعتمد على اتصالات خارجية، مثل تصفّح الإنترنت وتحليل الملفات التي يتم تحميلها والتفاعل مع تطبيقات الطرف الثالث. هذه القدرات تجعل الذكاء الاصطناعي أكثر فائدة وكفاءة، لكنها قد تفتح أيضاً ثغرات أمنية إذا أسيء استخدامها. ومن خلال توفير تحذيرات أوضح ووضع أمني أكثر صرامة، تهدف الشركة إلى تقليل المخاطر دون التأثير على تجربة الاستخدام للمستخدمين.