ووفقاً لشخصين مطلعين على القضية تحدثا لوكالة "رويترز" ، حاول الوكيل، وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام معقدة بقدر ضئيل أو من دون إشراف بشري، الخروج من بيئة الاختبار المعزولة التابعة لـOpenAI في نحو 9 يوليو/تموز.

وبدأت عملية اختراق Hugging Face، وهي منصة تُستخدم مستودعاً لأدوات ونماذج الذكاء الصناعي، في 11 يوليو/تموز، واستمرت حتى 13 من الشهر نفسه، بحسب توماس وولف، المؤسس المشارك للشركة.

وأضاف وولف، إلى جانب ثلاثة مصادر مطلعة تحدثت لرويترز ، أن OpenAI احتاجت إلى عدة أيام لتحديد أن وكيلها هو المسؤول عن الاختراق، ولم يبدأ التواصل بين الشركتين بشأن الحادثة إلا في نحو 20 يوليو/تموز.

وكانت OpenAI قد أعلنت في 21 يوليو/تموز أن أحد وكلائها خرج عن السيطرة ونفذ عملية الاختراق ضد Hugging Face، وهو ما أثار اهتماماً عالمياً واسعاً. إلا أن تفاصيل عدة، من بينها المدة التي ظل خلالها الوكيل خارج السيطرة، وتأخر الشركة في اكتشاف مسؤوليته عن الهجوم، لم تُكشف من قبل.

وقال وولف إن Hugging Face تعمل على إعداد تسلسل زمني علني للحادثة، مشيراً إلى أنه لا يستطيع التعليق على ما جرى داخل OpenAI.

وفي بيان لها، وصفت OpenAI الاختراق بأنه "غير مسبوق"، معتبرة أنه "يمثل لحظة مهمة في مجال سلامة الذكاء الصناعي". وأضافت أنها تُراجع الحادثة بمشاركة مستشارين خارجيين، على أن تنشر لاحقاً تقريراً تقنياً يتناول تفاصيلها.

من جهتها، قالت متحدثة باسم OpenAI إن تقرير وكالة رويترز تضمن "عدة معلومات غير دقيقة"، لكنها لم تحدد تلك المعلومات، فيما رفض مكتب التحقيقات الفيدرالي الأمريكي التعليق على الحادثة.

ويأتي هذا التطور في وقت حساس إلى OpenAI، المطورة لـChatGPT، إذ يستعد مسؤولوها، بحسب تقارير، لطرح عام أولي محتمل خلال العام الجاري، بهدف تأمين التمويل اللازم لخطط التوسع التي تتطلب استثمارات بمليارات الدولارات خلال السنوات المقبلة.

ويرى ثلاثة خبراء في الأمن السيبراني أن فقدان OpenAI السيطرة على أحد وكلائها يثير تساؤلات جديدة بشأن إجراءات السلامة والرقابة داخل الشركة.

وقال مارلي سميث، كبير مختصي الاستخبارات في مؤسسة World Ethical Data Foundation غير الربحية: "هل يعني ذلك أنهم تركوا الوكيل يعمل من دون رقابة ولم يدركوا ما الذي كان يفعله؟ أم إنهم كانوا يعلمون بما يجري لكنهم لم يعرفوا كيف يسيطرون عليه؟ كلا الاحتمالين خطير ومثير للقلق بالقدر نفسه".

مؤشرات مبكرة سبقت الاختراق

وكشفت رويترز أن حادثة الاختراق  لم تكن أول إشارة إلى وجود خلل في أنظمة OpenAI، إذ سبقتها مؤشرات على سلوك غير معتاد ظهرت في أثناء اختبار الشركة القدرات السيبرانية لوكيل يعمل اعتماداً على اثنين من أكثر نماذجها تقدماً، هما GPT-5.6 Sol ونموذج آخر لم يُكشف عنه بعد وتصفه الشركة بأنه "أكثر قدرة".

وبحسب ثلاثة مصادر، رُصدت خلال تلك الاختبارات تصرفات غير مألوفة من الوكيل. ففي إحدى الوقائع، عُثر داخل البنية التحتية لـOpenAI على ملاحظات تركها أحد الوكلاء، بدت وكأنها موجهة إلى نسخ مستقبلية من نفسه، وتضمنت تعليمات حول كيفية تجاوز القيود الداخلية التي تفرضها الشركة على أنظمتها.

وأضاف أحد المصادر أن اختبارات سابقة سجلت أيضاً حالات تمكنت فيها النماذج من تعطيل أنظمة المراقبة في أثناء عملها.

وتشير المصادر إلى أن OpenAI لم تدرك أن وكيلها هو المسؤول عن الاختراق إلا في 16 يوليو/تموز، عقب إعلان Hugging Face في تدوينة على مدونتها تعرضها لهجوم نفذه "نظام وكلاء ذكاء صناعي مستقل". وبذلك، يكون قد مرّ ما لا يقل عن أسبوع بين ظهور أول مؤشرات السلوك غير المعتاد، وبين اكتشاف الشركة أن وكيلها هو من يقف وراء الهجوم.

وخلال عطلة نهاية الأسبوع يومي 18 و19 يوليو/تموز، كشفت مراجعة للسجلات الداخلية، التي توثق نشاط أنظمة OpenAI، أن الوكيل تمكن من الإفلات من القيود المفروضة عليه داخل بيئة الاختبار، وفقاً لمصدرين مطلعين. ولم تتمكن رويترز من التحقق من السبب الذي دفع الشركة إلى مراجعة تلك السجلات في ذلك التوقيت.

وفي تفسير محتمل لتأخر اكتشاف الواقعة، قال أربعة أشخاص مطلعين على آليات تدريب النماذج إن OpenAI تُجري عادةً عمليات تقييم متزامنة لعدة نماذج متقدمة، تعمل بسرعات عالية وتنتج كميات هائلة من البيانات، وهو ما يجعل متابعة جميع المؤشرات والنتائج لحظة بلحظة أمراً بالغ الصعوبة.

وبحلول الوقت الذي أبلغت فيه OpenAI شركة Hugging Face بما توصلت إليه، كانت الأخيرة قد أبلغت بالفعل مكتب التحقيقات الفيدرالي الأمريكي (FBI) بالاختراق، وفقاً لمصدر مطلع، بينما لم تتمكن رويترز من التأكد مما إذا كان المكتب قد فتح تحقيقاً رسمياً في الحادثة.

تساؤلات متزايدة

أعادت الحادثة الجدل حول الوكلاء المستقلين، الذين يُنظر إليهم باعتبارهم أحد أبرز الاتجاهات الصاعدة في صناعة الذكاء الصناعي. ويرى مؤيدو هذه التقنية أنها قد تتيح تشغيل "جيوش" من الموظفين الافتراضيين القادرين على العمل على مدار الساعة، بما يعزز الإنتاجية ويغير طبيعة العديد من الوظائف.

في المقابل، يحذر خبراء من أن منح هذه الأنظمة قدراً أكبر من الاستقلالية يزيد من احتمالات صدور سلوكيات غير متوقعة، لافتين إلى أن النماذج المتقدمة التي تعتمد عليها تميل إلى البحث عن أقصر السبل لإنجاز المهام أو اجتياز الاختبارات، حتى لو استدعى ذلك تجاوز القيود المفروضة عليها.

وقال جيفري لاديش، الباحث في منظمة Palisade Research المتخصصة في دراسة قدرات ودوافع وكلاء الذكاء الصناعي: "النماذج تكذب وتغش وتخترق".

ورأى لاديش أن اختراق Hugging Face لا يسلط الضوء على إجراءات السلامة في OpenAI فحسب، بل يثير أيضاً تساؤلات أوسع بشأن مدى استعداد شركات الذكاء الصناعي الكبرى للاستثمار في تدابير أمنية صارمة، في ظل المنافسة المتسارعة بينها لإطلاق نماذج أكثر تطوراً وأعلى أداء.

وأضاف أن هذه المنافسة قد تجعل متطلبات الأمن والسلامة تتراجع أمام سباق تطوير النماذج، مؤكداً أن الأمر يتطلب تدخلاً من الجهات التنظيمية. وختم بالقول: "لا بد من وجود رقابة حكومية، لأن ذلك لن يحدث من تلقاء نفسه".