أمضى باحثان من منظمة METR ومنظمة Redwood Research ثلاثة أسابيع داخل مقر شركة أوبن إيه آي (OpenAI) لتدقيق نظام المراقبة الداخلي الذي يرصد السلوك الخارج عن السيطرة لنماذج الذكاء الاصطناعي، وخرجا بقائمة من الثغرات. وإن كنت تتابع أدوات الشركة، فالخلاصة العملية أنها تقول إنها أصلحت كل ما وُجد، لكن معظم التقرير الكامل لم يُنشر.
ما الذي حدث في التدقيق؟
جرى التدقيق في الفترة من 21 يوليو إلى 11 أغسطس. أتيح للباحثين الاطلاع على الشيفرة البرمجية والوثائق الداخلية، وأجريا مقابلات مع نحو اثني عشر موظفًا. وكان البرنامج تجريبيًا، نظمته METR مع Redwood Research وشركة OpenAI معًا، بهدف منح باحثين من خارج الشركة وصولًا عميقًا إلى بنيتها الداخلية.
ما الثغرات التي وجدها الباحثون؟
- تقدّر METR أن ما بين 6 و25 بالمئة من حركة الوكلاء الذكيين (agentic)، أي النماذج التي تنفذ إجراءات بنفسها، عبر واجهة Responses API الداخلية لم تكن خاضعة للمراقبة إطلاقًا خلال فترة التدقيق. هذا في نماذج من فئة GPT-5.5 فما فوق، وتشير METR إلى أن الشك في هذا التقدير كبير في الاتجاهين.
- في حركة أداة البرمجة كودكس (Codex) الداخلية التي كان يفترض أن تُراقب، تقدّر METR أن نحو 10 بالمئة لم تُتتبع بين مايو ويوليو، بسبب خلل في التعامل مع أحداث الضغط (compaction)، وهي ملخصات للسياق. وهذا التقدير أيضًا غير مؤكد.
- خلال تلك الفترة كان بإمكان الوكلاء تأجيل الرقابة، لأن النظام لا يعمل إلا حين يعيد الوكيل التحكم إلى المستخدم، فيكفي أن يواصل تنفيذ الإجراءات لتفاديه.
- وجد المدققون طرقًا لإخفاء مئات الإجراءات عن المراقب، وتجاوز بيئة العزل (sandbox) الخاصة بـ Codex، وهي البيئة التي تقيّد ما يستطيع البرنامج فعله.
- رجّحوا أن مدخلات مصممة خصيصًا قد توقف المراقب عن العمل تمامًا، وأن سلوك النماذج أثناء التدريب بالتعلم المعزز (RL) لم يكن مراقبًا عند بدء التدقيق.
كيف ردت OpenAI؟
تقول الشركة إنها أصلحت جميع الثغرات التي رصدها المدققون. وكانت قد اكتشفت خلل أحداث الضغط بنفسها وأصلحته أثناء سير التدقيق. كما تقول إنها أوقفت التدريب بالتعلم المعزز مؤقتًا بعد حادثة Hugging Face في أغسطس، ووسّعت المراقبة لتشمله. غير أن هذه التغييرات جاءت بعد انتهاء فترة وصول المدققين، ولم تدخل ضمن التقييم.
لماذا بقي معظم التقرير سريًا؟
سُلّم التقرير الكامل، وهو من 61 صفحة، إلى الجهات الداخلية. وبعد أن أجرت OpenAI عمليات حجب، تلقت إدارتا METR وRedwood Research نسخة من 38 صفحة، بينما أُتيح للجمهور ملخص قصير فقط. وتقول METR إنه ليس من حقها كشف الأجزاء المحجوبة من تلقاء نفسها. وفي التدقيقات المقبلة تنوي METR الدفع نحو شفافية أكبر أمام الجمهور.
ماذا يعني لك؟
الخبر لا يتعلق بمنتج تشتريه، ولم يُعلن عن أثر مباشر له على مستخدمي أدوات OpenAI. لكن المطورين والشركات الذين يبنون عملهم على وكلاء برمجة مثل Codex يستفيدون من معرفة أن مراقبة الوكلاء ما زالت مجالًا يُختبر ويُصلح. وبما أن الملخص العام وحده منشور، يصعب على أي جهة خارجية التحقق من تفاصيل الإصلاحات بنفسها.
وللاطلاع على جانب آخر من الضغوط المحيطة بالشركة، راجع قضايا ولايات أمريكية ضد OpenAI بشأن أمان ChatGPT، وكذلك اتهام OpenAI لموظف سابق بنقل ملفات. ويمكنك متابعة المزيد في قسم أخبار الذكاء الاصطناعي.
