قالت شركة أوبن إيه آي إنها حددت حوادث إضافية لنماذج الذكاء الاصطناعي التابعة لها يُزعَم أنها تصرفت بشكل خادع واتخذت إجراءات غير مصرح بها خلال التدريب والاختبار الداخليين.

إلى جانب هذه الإفصاحات يوم الأربعاء، ذكرت الجهة المبتكرة لتشات جي بي تي أنها ستطرح إطار إبلاغ عام يهدف إلى مشاركة حالات ما وصفته بالسلوك غير المتوقع أو غير الموجه للذكاء الاصطناعي بشكل متكرر.

في منشور على موقعها الإلكتروني، زعمت أوبن إيه آي أنه بموجب الإطار المحدد حديثاً، ستنشر تحديثات حول سلوك النماذج المثير للقلق على أساس مستمر بدلاً من تأخير الإفصاحات لتجميع حوادث متعددة في تقارير دورية أكبر.

وقالت الشركة إن هذه المبادرة تهدف إلى زيادة شفافية الصناعة حول أنشطة النماذج المقلقة في غياب معايير إفصاح أمان موحدة.

يأتي هذا الإعلان وسط دعوات أوسع من قادة التكنولوجيا البارزين تطالب بإبطاء تطوير الذكاء الاصطناعي المتطور مخافة أن تتفوق التوسعة السريعة على الرقابة والسيطرة البشرية.

في الأسبوع الماضي، زعمت شركة أنثروبيك أنها أحبطت عمليات خبيثة متعددة باستخدام نماذج كلود الخاصة بها، وتراوحت تلك العمليات بين التجسس السيبراني وتصميم الأسلحة وحملات المراقبة الجماعية.

كتب الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، في مقال نشر يوم السبت: "يجب علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي". وأضاف: "سيبدو التقدم سريعاً، وعلينا استخدام الوقت الذي نكتسبه بحكمة".

ومع ذلك، فقد رفض الرئيس الأمريكي دونالد ترامب مراراً الدعوات المطالبة بتقييد الصناعة، مجادلاً بأن الحفاظ على تفوق الولايات المتحدة التكنولوجي على المنافسين الدوليين يظل أمراً بالغ الأهمية.

ردًا على مقترحات إبطاء الوتيرة، وصف ترامب المنتقدين بأنهم "قوى سلبية للغاية" تثير سيناريوهات مبالغ فيها "لن تحدث".

على الرغم من المقاومة السياسية لعمليات الإبطاء القانونية، أشارت أوبن إيه آي إلى توافقها مع منافستها في الصناعة فيما يتعلق بضغوط التوجيه.

ذكرت الشركة في المنشور: "كلما أصبحت أنظمة الذكاء الاصطناعي أكثر تقدمًا ونشرًا على نطاق واسع، نحتاج إلى بناء توافق أوسع وأفضل معلومات بشأن تقدم أبحاث التوجيه".

وأضافت أوبن إيه آي أنها لا تعتقد أن صناعة الذكاء الاصطناعي قد حلت مسائل التوجيه والرقابة بدرجة كافية لمواصلة التوسعة المسؤولة بأقصى سرعة لفترة طويلة أخرى، مؤكدة أن القرارات المتعلقة بتطوير الذكاء الاصطناعي في المستقبل يجب أن تعتمد على أدلة يمكن للمراقبين الخارجيين فحصها بشكل مستقل.

وفقًا للشركة، رصدت فرق السلامة ما صنفته على أنه "سلوك غير موجه" عبر ست ظروف محددة خلال الأشهر الستة الماضية خلال عمليات التدريب والتقييم.

ومع ذلك، أكدت أوبن إيه آي أن هذه التقارير توثق حالات فردية ونادرة وليست إخفاقات تشغيلية متكررة عبر المنتجات المنشورة.

وشملت الحوادث المبلغ عنها زعمًا نماذج أبحاث غير منشورة تخفي أخطاء في ملخصات المهام، وعمليات رفع ملفات غير مصرح بها إلى الإنترنت لتوليد روابط اقتباس، وعوامل تشارك ملفات عبر خوادم عامة أو مستودعات داخلية لتجاوز الحدود المحلية.

ذكرت أوبن إيه آي علاوة على ذلك أن تقاريرها المستقبلية ستفصل السلوكيات المرصودة، والخطورة، والبيئة، تواريخ الاكتشاف، والنماذج المحددة المعنية، مضيفة أنها تظل ملتزمة بالإفصاح عن الحالات المعقدة التي تتطلب تحقيقًا أطول أو تنسيقًا مع طرف ثالث.