حارس المستقبل الرقمي.. وظيفة جديدة في OpenAI لمواجهة مخاطر الذكاء الاصطناعي

دور رئيس الاستعداد ومهامه الأساسية

أعلن سام ألتمان عن إنشاء وظيفة جديدة في OpenAI تحمل اسم “رئيس الاستعداد”، تهدف إلى مراقبة تطورات أنظمة الذكاء الاصطناعي المتقدمة والتنبؤ بالمخاطر المحتملة قبل وقوعها، ووصف الدور بأنه شديد الضغط ويحتاج إلى أعصاب فولاذية وعقل تقني حاد وربما كوب قهوة قوي لمواجهة تحدياته.

وأوضح عبر منشور على وسائل التواصل الاجتماعي أن الشركة تمتلك أساسًا متينًا لقياس قدرات النماذج، لكنها بحاجة إلى فهم أعمق لكيفية إساءة استخدام هذه القدرات ووضع آليات تقلل من آثارها السلبية على المستخدمين والمجتمع، مع الحفاظ على الفوائد الكبيرة التي توفرها التقنية.

محددات المراقبة وتقييم المخاطر

وحذر ألتمان من أن أساليب الاختبار التقليدية لم تعد كافية، وأن النماذج الحديثة لا تزداد ذكاءً فحسب بل تتصرف بطرق لم يتوقعها البشر، مثل اكتشاف ثغرات أمنية والتلاعب بالنتائج أو التأثير على السلوك البشري بطرق خفية وغير متوقعة.

ووفق تدوينة رسمية من OpenAI، سيقود رئيس الاستعداد الإطار الداخلي لتقييم المخاطر المرتبطة بالذكاء الاصطناعي، وبناء نماذج للتهديدات وتطوير آليات أمان قابلة للتوسع.

التنسيق والتنفيذ والخطوات الاستراتيجية

وسيكون الدور مسؤولًا عن التنسيق بين فرق البحث والهندسة والسياسات والحوكمة لضمان أن السلامة تبقى أولوية في جميع مراحل العمل، والمشاركة في اتخاذ قرارات حساسة حول توقيت إطلاق القدرات الجديدة أو إيقافها إذا لزم الأمر.

ويشترط في المرشح أن يمتلك معرفة تقنية قوية وخبرة في إدارة المخاطر والقدرة على اتخاذ قرارات حاسمة في ظروف غير واضحة، وأن يزدهر وسط الغموض ويكون مستعدًا لتحمل مسؤولية الحفاظ على الجيل القادم من أنظمة الذكاء الاصطناعي من الانحراف عن المسار الصحيح.

المرشح والحوكمة والالتزام القيمي

وتبحث OpenAI عن مرشحين لديهم خلفيات في سلامة الذكاء الاصطناعي أو الأمن السيبراني أو نمذجة التهديدات، وقادرين على العمل عبر فرق متعددة التخصصات، والجمع بين البحث التقني وصناعة القرار الاستراتيجي، ليصبح الشخص المختار بمثابة الحارس الداخلي لنماذج ChatGPT المستقبلية، لضمان توافقها مع القيم والنيات البشرية حتى مع زيادة قدراتها وتعقيدها.

ويرى ألتمان أن هذه الخطوة تمثل تحولًا أكثر رصانة في نهج OpenAI تجاه الابتكار، بعد سنوات من دفع حدود التقنية وإبهار المستخدمين بما يمكن للذكاء الاصطناعي فعله، ويبدو أن الشركة تولي الآن اهتمامًا أكبر للاستعداد لما قد يفعله الذكاء الاصطناعي مستقبلًا.