حارس المستقبل الرقمي.. وظيفة جديدة في OpenAI لمواجهة مخاطر الذكاء الاصطناعي

أعلن سام ألتمان عن إنشاء وظيفة جديدة تحمل اسم “رئيس الاستعداد” في شركة OpenAI، تهدف إلى مراقبة تطورات أنظمة الذكاء الاصطناعي المتقدمة والتنبؤ بالمخاطر المحتملة قبل وقوعها، ووصفت بأنها وظيفة ذات ضغوط عالية وتحتاج إلى أعصاب فولاذية وعقل تقني حاد، وربما كوب قهوة قوي لمواجهة ضغوط العمل.

أوضح عبر منشور على وسائل التواصل أن الشركة تملك أساسًا قويًا لقياس قدرات النماذج لكنها بحاجة إلى فهم أعمق لكيفية إساءة استخدام هذه القدرات ووضع آليات للحد من سلبياتها مع الحفاظ على الفوائد الكبيرة التي تقدمها، وذكر أن الأسئلة المطروحة صعبة ولا توجد لها سوابق كثيرة، فالأفكار التي تبدو جيدة قد تواجه حالات استثنائية حقيقية.

تأتي هذه الخطوة في وقت تظهر فيه أنظمة مثل ChatGPT قدرات متقدمة في التفكير والتحليل والبرمجة، إضافة إلى نتائج غير متوقعة قد تثير القلق، وأشار إلى أن النماذج الحديثة لا تزداد ذكاءً فحسب، بل تبدأ في التصرف بطرق لم يتوقعها البشر، مثل اكتشاف ثغرات أمنية أو التلاعب بالنتائج أو التأثير على سلوك البشر بشكل خفي وغير متوقع.

وحذر من أن أساليب الاختبار التقليدية لم تعد كافية، وأن OpenAI بحاجة إلى نهج أعمق وأكثر تنظيمًا لمراقبة النماذج، يركز ليس فقط على ما يمكن للنظم فعله بل على ما قد تفعله إذا تُركت بلا رقابة، وبحسب بيان رسمي من OpenAI سيكون رئيس الاستعداد مسؤولًا عن قيادة الإطار الداخلي لتقييم المخاطر المرتبطة بالذكاء الاصطناعي وبناء نماذج للتهديدات وتطوير آليات أمان قابلة للتوسع.

كما سيتولى التنسيق بين فرق البحث والهندسة والسياسات والحوكمة لضمان أن السلامة تبقى أولوية في جميع مراحل العمل، والمشاركة في اتخاذ قرارات حساسة حول توقيت إطلاق القدرات الجديدة أو إيقافها إذا لزم الأمر، وأوضح أن الوظيفة تتطلب معرفة تقنية قوية وخبرة في إدارة المخاطر والقدرة على اتخاذ قرارات مصيرية في ظروف غير واضحة، وأن المرشح المثالي يجب أن يزدهر وسط الغموض ويقبل مسؤولية الحفاظ على الجيل القادم من أنظمة الذكاء الاصطناعي من الانحراف.

وتبحث OpenAI عن مرشحين لديهم خلفيات في سلامة الذكاء الاصطناعي أو الأمن السيبراني أو نمذجة التهديدات، وقادرين على العمل عبر فرق متعددة التخصصات ودمج البحث التقني مع صناعة القرار الاستراتيجي، وسيصبح الشخص المختار حارسًا داخليًا لنماذج ChatGPT المستقبلية لضمان توافقها مع القيم والنيات البشرية مع زيادة قدراتها وتعقيدها.

ويرى ألتمان أن هذه الخطوة تمثل تحولًا أكثر رصانة في نهج OpenAI تجاه الابتكار، حيث تولي الشركة اهتمامًا باستعداد ما قد يفعله الذكاء الاصطناعي مستقبلًا بجانب دفع حدود التقنية ومساءلة آثارها المحتملة على المجتمع.