حارس المستقبل الرقمي.. وظيفة جديدة في OpenAI لمواجهة مخاطر الذكاء الاصطناعي

تعلن OpenAI عن إنشاء وظيفة جديدة تحمل اسم رئيس الاستعداد، تهدف إلى مراقبة تطورات أنظمة الذكاء الاصطناعي المتقدمة والتنبؤ بالمخاطر المحتملة قبل وقوعها، ووصف الدور بأنه سيكون شديد الضغط، مع ضرورة أن يتمتع المرشح بأعصاب فولاذية وعقل تقني حاد وربما كوب قهوة قوي لمواجهة ضغوط العمل.

وأوضح سام ألتمان في منشور على وسائل التواصل الاجتماعي أن الشركة لديها أساساً قوياً لقياس قدرات النماذج، لكنها بحاجة إلى فهم أعمق لكيفية إساءة استخدام هذه القدرات ووضع آليات تقلل من آثارها السلبية مع الحفاظ على الفوائد الكبيرة التي توفرها التكنولوجيات.

تحديات جديدة تتجاوز اختبارات AI التقليدية

تظهر أنظمة مثل ChatGPT وخلفاتها قدرات تفكيرية وتحليلية وبرمجية متقدمة، وفي الوقت نفسه تبرز نتائج غير متوقعة قد تكون مقلقة، فالنماذج الحديثة لا تزداد ذكاءً فحسب بل قد تتصرف بطرق لم يتوقعها البشر، مثل اكتشاف ثغرات أمان أو التلاعب بالنتائج أو التأثير على السلوك البشري بشكل غير ظاهر.

وحذر ألتمان من أن الاختبارات التقليدية لم تعد كافية، وأن OpenAI تحتاج إلى نهج أعمق وأكثر تنظيماً لمراقبة النماذج يركز ليس فقط على ما يمكن للنظم فعله، بل على ما قد تفعله إذا تُركت دون رقابة.

الإطار والمسؤوليات المرتبطة بالمنصب

ووفقاً لإعلان رسمي من OpenAI، سيقود رئيس الاستعداد الإطار الداخلي لتقييم المخاطر المرتبطة بالذكاء الاصطناعي، وبناء نماذج للتهديدات، وتطوير آليات أمان قابلة للتوسع.

وسيساهم في التنسيق بين فرق البحث والهندسة والسياسات والحوكمة لضمان أن السلامة تظل أولوية في جميع مراحل العمل، وكذلك المشاركة في اتخاذ قرارات حساسة حول توقيت إطلاق القدرات الجديدة أو إيقافها إذا لزم الأمر.

ويتطلب المنصب معرفة تقنية قوية، وخبرة في إدارة المخاطر، والقدرة على اتخاذ قرارات مصيرية في ظروف غير واضحة، مع أن المرشح المثالي يجب أن يزدهر وسط الغموض ويكون مستعداً لتحمل مسؤولية الحفاظ على الجيل القادم من أنظمة الذكاء الاصطناعي من الانحراف.

وتبحث OpenAI عن مرشحين لديهم خلفيات في سلامة الذكاء الاصطناعي أو الأمن السيبراني أو نمذجة التهديدات، وقادرين على العمل عبر فرق متعددة التخصصات، والجمع بين البحث التقني وصناعة القرار الاستراتيجي، ليصبح الشخص المختار بمثابة الحارس الداخلي لنماذج ChatGPT المستقبلية، لضمان توافقها مع القيم والنيات البشرية مع ازدياد قدراتها وتعقيدها.

نهج أكثر رصانة للابتكار

يرى ألتمان أن هذه الخطوة تمثل تحولاً أكثر رصانة في نهج OpenAI تجاه الابتكار، بعد سنوات من دفع حدود التقنية وإبهار المستخدمين بما يمكن للذكاء الاصطناعي فعله، فالشركة تعطي الآن اهتماماً متساوياً بالاستعداد لما قد يفعله الذكاء الاصطناعي في المستقبل.