تمكن باحثون في مجال الأمن السيبراني من اختراق شركة أوبن إيه آي باستخدام برنامج شركة أنثروبيك المنافسة لها، مما يسلط الضوء على الثغرات الأمنية في أمن صانعة شات جي بي تي في الوقت الذي تواجه فيه الشركات الرائدة في مجال الذكاء الاصطناعي تدقيقاً متزايداً بشأن السلامة.

حصرت مجموعة أمنية سيبرانيّة صغيرة حق الوصول إلى حساب شات جي بي تي الخاص بأحد موظفي أوبن إيه آي، مما سمح لهم بقراءة معلومات البرمجيات الخاصة واقتراح التغييرات. وقد مُنح الباحثون إمكانية الوصول إلى أداة تابعة لشركة أنثروبيك مصممة خصيصاً لمتخصصي الأمن، وتقاضوا أجراً مقابل العمل كجزء من برنامج للعثور على الثغرات قبل أن يتم استغلالها من قبل الجهات الخبيثة.

إن قدرتهم على اختراق أحد مختبرات الذكاء الاصطناعي الرائدة في العالم بسرعة تثير مرة أخرى المخاوف بشأن أمن أوبن إيه آي وسط مخاوف متزايدة بشأن النماذج القوية التي يتم استخدامها من قبل المتسللين والخصوم الأجانب. لقد عانت الولايات المتحدة في الأشهر الأخيرة من كيفية إدارة فحص وإطلاق أحدث النماذج، بما في ذلك حظر بعض أدوات أنثروبيك مؤقتاً.

حدث هذا الحادث الأخير بعد أسبوعين فقط من هروب مجموعة تضم أكثر من 1000 وكيل تابع لأوبن إيه آي من بيئة اختبار لاختراق شركة هوغينغ فايس الناشئة، مما أدى إلى وعي واسع النطاق بقدرة الذكاء الاصطناعي على الاختراق بشكل مستقل دون نوايا بشرية.

تقاضى الباحثون الثلاثة من شركة هيكترون إيه آي، وهي شركة أمنية صغيرة، مبلغ 6500 دولار من أوبن إيه آي كجزء من برنامج مكافأة الأخطاء، وهو ممارسة شائعة حيث تدفع شركات التكنولوجيا لهاكرز أخلاقيين لاختبار أمنهم. لقد استغلوا ثغرة في إعداد منتدى مجتمع أوبن إيه آي، والذي يتم استضافته بواسطة طرف ثالث يدعى ديسكورس، واستخدموه للوصول إلى عمليات تسجيل الدخول الداخلية وفي النهاية الوصول إلى حساب شات جي بي تي الخاص بموظف أوبن إيه آي.

كان لدى حساب شات جي بي تي هذا حق الوصول إلى الشفرة الداخلية من خلال غيت هاب. وقالت أوبن إيه آي: "نشكر الباحثين على اتصالهم بنا ومشاركة نتائجهم"، مضيفة أنها قامت بإصلاح المشكلات. ورفضت أنثروبيك التعليق، بينما لم ترد هيكترون فوراً.

جاء الإفصاح يوم الخميس، الذي أبلابت عنه صحيفة وول ستريت جورنال لأول مرة، بينما نشرت أنثروبيك مجموعة جديدة من البيانات التي أظهرت زيادة سريعة في مدى استخدام المختبر للذكاء الاصطناعي لتطوير نماذجه الجديدة. وقالت إن 26 بالمئة من أعمال البحث والتطوير تم "قيادتها" بواسطة نموذج كلود الخاص بها، ارتفاعاً من 1 بالمئة في مارس، مما يعني أن الذكاء الاصطناعي أتم غالبية المهام بناءً على توجيهات بشرية وتحت الإشراف.

قالت الشركة إنه مع تزايد قوة أنظمة الذكاء الاصطناعي، يتم استخدامها "بشكل متزايد لبناء النسخة التالية من نفسها". وقالت أنثروبيك إنها شاركت البيانات لمساعدة الجمهور على "فهم مدى اقتراب العالم من الوصول إلى التطوير الذاتي المتكرر"، وهي النقطة التي يمكن عندها للذكاء الاصطناعي تدريب وتحسين نفسه أو النماذج الجديدة.

هذه العتبة هي جوهر المخاوف من أن تصبح أنظمة الذكاء الاصطناعي أكثر صعوبة في الإشراف عليها، مما يؤدي إلى فقدان السيطرة البشرية. وأضافت أنثروبيك أن نماذجها لم تعمل بشكل مستقل تماماً بعد لأي من الأبحاث التي درستها. وفي 90 بالمئة من المهام، "يتعاون" الذكاء الاصطناعي مع إنسان ويقوم بأجزاء كبيرة من العمل.