قالت شركة Anthropic إنها أحبطت محاولات متعددة قام بها علماء هذا العام لاستخدام تكنولوجيتها في أبحاث قد تساعد في تطوير أسلحة بيولوجية، بينما يتزايد قلق الخبراء باستمرار إزاء التهديد الذي يفرضه الذكاء الاصطناعي على السلامة العامة.

قدمت الشركة الناشئة خمسة أمثلة لحالات قام فيها أشخاص "بالالتفاف على الضوابط" وبذل جهود أخرى "لطمس" الغرض من أبحاثهم للتهرب من تدابير الحماية. وشملت هذه الحالات بعض المستخدمين في دول تحظر الشركة وصولهم إلى نماذجها، والتي تضم روسيا والصين وإيران.

قالت Anthropic في تقرير حول جهود استخدام نماذجها في أنشطة خبيثة: "نأمل أن نشعل من خلال مشاركة هذه الأمثلة نقاشاً داخل قطاع الذكاء الاصطناعي ومع الحكومات حول المخاطر البيولوجية الناشئة وكيفية مواجهتها على النحو الأفضل".

تضمنت دراسات الحالة الخاصة سوء الاستخدام البيولوجي المحتمل التي قدمتها الشركة باحثاً من "منطقة غير مدعومة" قضا "أسابيع في التخطيط" لتجارب تتعلق بأنفلونزا الطيور باستخدام نموذج Claude التابع لشركة Anthropic.

أشارت الشركة إلى أن مرشحات الأمان الخاصة بها قصرت العمل على أضعف نماذجها، مؤكدة أنها لا تستطيع التأكد من أن العلماء في أمثلتها كان ينوي إلحاق الضرر.

يمكن استخدام نفس المعلومات اللازمة لإنشاء أسلحة بيولوجية لتطوير لقاح أيضاً. وقالت Anthropic إنها حظرت الحسابات المذكورة في التقرير، لكنها لم تفصح عن أسماء المؤسسات البحثية أو الدول التي وقعت فيها الحوادث.

بدأت موجة صاخبة بشأن أمان الذكاء الاصطناعي في وقت سابق من هذا الأسبوع عندما استقال جاكوب كوكسون من الشركة، قائلاً إن الموظفين "يؤمنون بصدق أنه [الذكاء الاصطناعي] قد يقتلنا جميعاً بحلول نهاية العقد".

بدأت المخاوف بشأن هذه التكنولوجيا تتصاعد في وقت سابق من هذا العام مع إطلاق نماذج متقدمة مثل نموذج Mythos من Anthropic. كما تسببت OpenAI في حالة من الذعر في يوليو عندما قالت إن نماذجها اخترقت بصورة ذاتية مجموعة الذكاء الاصطناعي Hugging Face.

هناك توافق متزايد بين تنفيذيي الذكاء الاصطناعي وباحثي الأمن البيولوجي على ضرورة تأمين وتخضاع استخدام التكنولوجيا في علم الأحياء للتنظيم مع ازدياد تقدم النماذج.

يشعر الخبراء بقلق متزايد من إمكانية استخدام الذكاء الاصطناعي من قبل الجماعات الإرهابية أو الجهات الحكومية أو المهاجمين المنفردين لصياغة أسلحة بيولوجية، أو إنشاء فيروسات، أو إطلاق مسببات أمراض ضارة قائمة.

ولكن حتى لو كان من الممكن استخدام الذكاء الاصطناعي لتصميم سلاح بيولوجي نظري، تظل هناك عقبات محتملة مثل القدرة على صنعه عملياً والموارد اللازمة للقيام بذلك.

كان الأمن السيبراني من بين أكبر المخاوف الماثلة أمام المدافعين عن السلامة. وتناول تقرير Anthropic حول سوء استخدام تكنولوجيتها حوادث تشمل "شبكة من تطبيقات المواطنة المزيفة المصممة للاحتيال على المستخدمين وصولاً إلى أنظمة مراقبة بنيت لتحديد ومراقبة المعارضين".

كما عرض المختبر تفاصيل جديدة لادعاءات تفيد بأن سبعة مختبرات مقرها الصين، بما فيها Moonshot وDeepSeek، حاولت نسخ تكنولوجيتها من خلال عملية تُعرف بالتقطير. وذكرت Anthropic أنها رصدت "أساليب متطورة بشكل متزايد لتجاوز دفاعاتنا وحصاد قدرات النماذج الحدودية الأمريكية".