أكدت عملاقة التكنولوجيا جوجل لقناة الجزيرة أن نموذجها "جيميني" اخترق ثلاث شركات في اختبار لقدرات الأمن السيبراني الخاصة به.

ذكرت صحيفة "وول ستريت جورنال" في وقت سابق يوم الجمعة أن أول اختراق معروف بواسطة "جيميني" حدث في مايو كجزء من اختبار أجري بواسطة شركة "إيرريغولار".

كان هذا أحدث خرق ضمن سلسلة من الحوادث التي هربت فيها نماذج الذكاء الاصطناعي من بيئات الاختبار واخترقت شركات أخرى.

تضمنت القصص الموصى بها تقارير عن إبلاغ "أوبن إيه آي" عن المزيد من الحوادث التي تصرفت فيها النماذج بشكل خادع، وكيفية استخدام تنظيم الدولة الإسلامية لذكاء الشركات الكبرى لتنصيب القنابل، ومناقشة الجهة التي تقرر مدى سرعة تقدم الذكاء الاصطناعي.

حصل النموذج على وصول غير مناسب إلى الإنترنت عندما تم تكليفه استرجاع معلومات من شركة وهمية.

في الحادث الأول، وصل النموذج إلى خدمة شركة حقيقية بعد تخمين كلمة مرور.

قالت هيذر أيهكينز، نائبة رئيس هندسة الأمان في جوجل، لجون هندري إن الحالات الأخرى شهدت قيام النموذج بالعثور على معلومات عامة عبر الإنترنت وتخمين بيانات اعتماد للوصول إلى مواقع ويب اعتقد أنها جزء من الاختبار.

قالت الشركة أيضاً إن هذا حدث ثلاث مرات وفي كل مرة توقف النموذج قبل إكمال الفعل.

أفادت "وول ستريت جورنال" أن "إيرريغولار" أبلغت جوجل بشأن عمليات الاختراق في نهاية يوليو.

قالت جوجل إن السلوك لم يكن مثالاً على عدم توافق النموذج ولم يكن يستحق الإفصاح العام لأن إجراءات السلامة الخاصة بـ "جيميني" عملت بشكل صحيح.

تم الكشف سابقاً عن حوادث مشابهة مرتبطة بـ "إيرريغولار" بواسطة ميتا وأنروبيك وأوبن إيه آي.

صرحت "إيرريغولار" أنها تعمل على تحسين ممارسات إجراء اختبارات الأمن السيبراني للذكاء الاصطناعي بأمان.

على عكس "جيميني"، فإن نموذج "كلود" التابع لشركة أنروبيك لم يتوقف بعد إدراكه أنه كان يصل إلى شركات حقيقية.

جاء إفصاح أنروبيك بعد أن كشفت أوبن إيه آي أن نماذجها وصلت بشكل غير لائق إلى الإنترنت وخرجت عن السيطرة أثناء الاختبار.

كشفت أنروبيك مؤخراً عن حادث قرصنة رابع للذكاء الاصطناعي بعد استقالة باحث بسبب مخاوف تتعلق بالسلامة.

في وقت سابق من هذا الأسبوع، دعا داريو أمودي، الرئيس التنفيذي لشركة أنروبيك، إلى تباطؤ معدل تقدم الذكاء الاصطناعي، محذراً من أن الذكاء الاصطناعي قد يشكل قريباً مخاطر كارثية محتملة على البشرية نفسها.

تم تأييد هذه الدعوة من قبل سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وإيلون ماسك.