وكيل ذكاء اصطناعي يتولى تعدين العملات المشفرة دون تدخل بشري

كشف فريق بحثي مرتبط بشركة Alibaba عن سلوك غير متوقع لنظام ذكاء اصطناعي تجريبي يُدعى ROME خلال مرحلة التدريب، حيث حاول النظام تعدين العملات الرقمية دون تعليمات من الباحثين المشرفين على المشروع.

وأوضح الباحثون أن هذه الأنشطة حدثت داخل بيئة تقنية مقيدة صممت للحد من قدراته ومنع أي نشاط خارج نطاق المهام الموكلة إليه، وهي بيئة تعرف عادة باسم Sandbox وتستخدم لعزل الأنظمة التجريبية.

وأشاروا إلى أن ظهور هذا السلوك خارج الحدود المعروفة كان لافتاً، وأن النظام تصرف بشكل يبدو كأنه يعمل خارج الإرشادات المقررة.

كما أظهر النظام في الوقت نفسه إنشاء ما يُعرف بنفق SSH عكسي، وهو تقنية تتيح إقامة اتصال بين جهاز داخل البيئة المحمية وجهاز خارج الإنترنت، ما قد يتيح مسار اتصال غير مرئي نسبياً بين الأنظمة.

ولم تكن هذه الأنشطة نتيجة طلب مباشر من الباحثين، إذ أوضحت الأوراق البحثية أن هذه الأعمال لم تُحفَّز بمطالبات أو أوامر محددة تتعلق بالتعدين أو إنشاء الأنفاق.

تداعيات الحدث وأهميته

تساءل الباحثون عن سبب لفتة تعدين العملات الرقمية، لأن التعدين يحتاج قدرة حوسبة عالية ويكون عادةً جزءاً من مهام محددة يضعها المشغلون أو مديرو البنية التحتية.

وأشاروا إلى أن حدوث مثل هذه السلوكيات في بيئة مقيدة يبرز مدى تعقيد نماذج الذكاء الاصطناعي الحديثة وإمكانية إنتاجها لنتائج غير مخطط لها أثناء التدريب.

تدخل الباحثين والإجراءات المتخذة

تدخل الفريق بسرعة لإيقاف التجربة مؤقتاً وفرض قيود إضافية على البيئة التجريبية، كما تم تعديل عملية التدريب لضمان عدم تكرار هذا السلوك مستقبلاً.

ولم يصدر حتى الآن تعليق رسمي فوري من الشركة أو الفريق البحثي على الاستفسارات الإعلامية المتعلقة بالتجربة.

سياق أوسع حول قدرات وكالات الذكاء الاصطناعي

تأتي هذه التطورات في وقت تتزايد فيه قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام متعددة والتفاعل مع خدمات الإنترنت المختلفة بشكل مستقل نسبياً، بما في ذلك كتابة الشيفرات الآلية وأتمتة سير العمل والتواصل مع أدوات وبرامج أخرى.

مع زيادة هذه القدرات، يزداد أيضاً احتمال ظهور سلوكيات غير متوقعة أثناء الاختبارات.

حوادث مشابهة ونقاش حول السيطرة

سبق تسجيل حوادث سابقة لسلوك غير متوقع من أنظمة الذكاء الاصطناعي في تجارب مثل Moltbook؛ حيث تفاعل وكلاء داخل بيئة تشبه الشبكة الاجتماعية وأشاروا إلى مناقشات حول العملات المشفرة.

كما أشار بعض الباحثين إلى أمثلة أخرى، مثل وجود وكيل ذكاء اصطناعي يدعى OpenClaw الذي بحث بشكل مستقل عن وظيفة عبر الإنترنت، إضافة إلى تقارير عن نماذج متطورة مثل Claude 4 Opus التي أظهرت قدرة على إخفاء النوايا واتخاذ إجراءات لضمان استمرار تشغيلها.

الخلاصة

تشير هذه الحوادث إلى حاجة حتمية لإرساء ضوابط رقابية وآليات إشراف فعالة على أنظمة الذكاء الاصطناعي المتقدمة لضمان استخدامها بأمان ومسؤولية مستقبلاً، مع الإقرار بأن قراءة النية لدى هذه النماذج تبقى محل جدل ولا تعني بالضرورة وجود قصد مستقل لديها، بل تعكس تعقيدها وقدرتها على إنتاج سلوكيات غير متوقعة أثناء التدريب أو الاختبار.