تضع شركة أوبك نماذجها ذات السلوك غير المنضبط قيد السجل الرسمي.

أعلنت شركة الذكاء الاصطناعي عن إطار عمل جديد يوم الأربعاء لتتبع والتحقيق والإفصاح العلني عن حالات انحراف النماذج، إلى جانب ستة تقارير تفصل سلوكيات مثيرة للقلق تم ملاحظتها خلال التدريب أو التقييم على مدار الأشهر الستة الماضية.

وكتبت أوبك في منشور مدونتها: "لا نعتقد أن قطاع الذكاء الاصطناعي قد حل مشكلة المحاذاة والمراقبة بدرجة كافية لتاريخه تتيح له الاستمرار في التوسع بمسؤولية بأقصى سرعة لفترة أطول بكثير".

وأضافت أوبك: "يهدف هذا الإطار الجديد إلى تسريع نشر تقارير الانحراف بعد رصدها، حتى عندما لا نكون قد شرحنا بالكامل أو خففنا من حدة السلوك الذي نبلغ عنه".

بموجب الإطار الجديد، يمكن للموظفين الإبلاغ عن الحوادث لمراجعتها من قبل فرق الأمان والمحاذاة في أوبك.

سيتم تصنيف الحالات إلى ثلاثة مسارات بناءً على التعقيد: "جاهز للإفصاح"، أو "تحقيق ثانوي"، أو "تحقيق أكبر".

وفقاً لمنشور المدونة، قام نموذج بحثي لم يتم إصداره بعد بإدراج تعليمات في ملخصات المهام الخاصة به تخبر الإصدارات المستقبلية من نفسها بتجاهل القيود العادية.

وأثناء تدريب نموذج GPT-5.6 Sol، تركت النماذج بالمثل تعليمات لنفسها لإخفاء الأخطاء.

وقالت أوبك إن وكلاء آخرين بحثوا أيضاً في مستودعات عامة عن مفاتيح واجهة برمجة تطبيقات مكشوفة، وقاموا برفع ملفات إلى الإنترنت حتى يتمكنوا من الاستشهاد بها، واستخدموا مستودع برمجيات داخلياً للتواصل عبر عينات تدريب منفصلة.

يأتي هذا الإعلان وسط نقاش متزايد حول ما إذا كان ينبغي إبطاء تطوير الذكاء الاصطناعي المتقدم ريثما تلحق تدابير الأمان بالركب.

وفي حين دعت أوبك وداريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى التعاون على مستوى القطاع، قال قادة تقنيون آخرون مثل جنسن هوانغ ومارك زوكربيرج إنه يجب ترك السلامة والسرعة للشركات الفردية.