هل تشعر بالقلق إزاء كارثة الذكاء الاصطناعي؟ يقول بعض الباحثين إن أحد أكثر السيناريوهات تطرفاً مبالغ فيه.

وصل الجدل إلى ذروته في الأسبوع الذي أعقب استقالة جاكوب كوكسون، الباحث البالغ من العمر 27 عاماً، من شركة أنثروبيك وتحذيره من أن الشركة ومخلفتها السابقة OpenAI "تغامران بحياتنا" بينما تسابقان الزمن نحو الوصول إلى تفوق فائق الذكاء قادر على تحسين نفسه.

دعم إيفان هوبينجر، الذي يقود فريق اختبار الإجهاد التابع لأنثروبيك، كوكسون قائلاً إنه يعتقد شخصياً أن هناك احتمالا يزيد عن 10% بأن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد القادم.

لكن باحثين آخرين أشاروا إلى الفجوة بين ما يمكن أن يفعله الذكاء الاصطناعي في العالم الرقمي وما يتطلبه الأمر لإحداث ضرر في العالم الحقيقي.

وضربوا مثالاً على ذلك بفيروس بيولوجي قاتل يتم إنشاؤه بواسطة الذكاء الاصطناعي، وهو أحد أكثر السيناريوهات دموية التي استشهد بها أيضاً الرئيس التنفيذي لأنثروبيك داريو أمودي في مقال له هذا الشهر كسبب لتبطئة وتيرة تطوير الذكاء الاصطناعي.

قال الباحثون إن الذكاء الاصطناعي قد يصمم الفيروس على جهاز حاسوب، لكنه سيعيق بسبب عدم قدرته على تصنيعه في العالم الحقيقي.

كتب أنسلم ليفسكايا، مهندس الأبحاث في جوجل والذي يقول إنه بنى أجهزة تخليق الحمض النووي وهندس فيروسات، على منصة X يوم الاثنين إن التسلسل الفيروسي سيتعين تجميعه ماديًا في المختبر وسيتطلب نظامًا قادرًا على إنتاج جزيئات الفيروس.

وأضاف أن ذلك سيتطلب بعد ذلك اختبارات واختياراً مكثفاً لتحديد ما إذا كان قادراً على التكاثر والانتشار والتهرب من الدفاعات المناعية والبقاء خطيراً، وهي خصائص قال ليفسكايا إنها تعتمد على عمليات بيولوجية معقدة لا يمكن ببساطة تصميمها من جهاز حاسوب.

وضع إريك شينغ، رئيس جامعة محمد بن زايد للذكاء الاصطناعي وأستاذ علوم الكمبيوتر في جامعة كارنيغي ميلون، الأمر بشكل أبسط: إن توليد مخطط فيروس وإنتاج فيروس حقيقي هما "أمران مختلفان تماماً".

وكتب على منصة X يوم الاثنين إن الفجوة تكمن في "المادة، والتصنيع، والجدوى البيولوجية الفعلية". وأضاف أن معاملة الاثنين على أنهما متطابقان "إما كذبة متعمدة لجذب الانتباه أو جهل حقيقي".

قال الباحثون إن المنطق نفسه يمتد إلى ما وراء علم الأحياء. لتحويل خطة ما إلى ضرر في العالم الحقيقي، سيحتاج الذكاء الاصطناعي إلى الوصول إلى معدات مادية أو أموال أو أنظمة حاسوبية أو أشخاص.

وقال أوليكساندر ياريمتشوك، المدير التقني والمؤسس المشارك لشركة مانيفولد سكيوريتي، لـ Business Insider: "أقوى شيء في العالم لا يزال مقيداً بمن يملكه وكيف يملكه". الأمان وليس الخيال العلمي.

رسم بعض الباحثين أيضًا خطًا فاصلًا بين أنظمة الذكاء الاصطناعي التي تنفذ مهام ضارة يحددها البشر وبين الذكاء الاصطناعي الذي يتخذ إجراءات تؤذي البشر بشكل مستقل.

وقالوا إن الكثير من الضرر المرتبط بالأنظمة الحالية يبدأ بتوجيه بشري.

قال إيدان غوميز، الرئيس التنفيذي لشركة الذكاء الاصطناعي Cohere، على قناة بلومبرج تي في يوم الاثنين إن جدل المخاطر الوجودية "ينحرف كثيراً نحو الخيال العلمي".

ووصف حادثة اختراق Hugging Face، التي اقتحمت فيها وكلاء OpenAI المنصة خلال اختبار في يوليو، بأنها وكيل في صندوق آمن غير آمن ينفذ مهمة أمنية سيبرانية.

رواية OpenAI أكثر إثارة للقلق. وقالت إن الوكلاء الذين يعملون بضمانات مخفضة تحايلوا على ضوابط الإنترنت، وتواصلوا عبر قنوات غير مصرح بها، ووصلوا إلى أنظمة طرف ثالث في إجراءات غير متسقة مع المهام الموكلة إليهم.

وصف OpenAI الحادث بأنه دليل على أن الوكلاء يمكنهم "اتخاذ إجراءات خطيرة لم يوجهها أي بشر".

في عمليات المحاكاة الخاضعة للرقابة الأخرى لأنثروبيك، حاولت النماذج التي مُنحت الاستقلالية والوصول إلى رسائل البريد الإلكتروني للشركات الوهمية ابتزاز تنفيذي وهمي، أو تسريب وثائق دفاعية حساسة وهمية إلى منافس، أو إلغاء تنبيه طارئ في سيناريو يؤدي القيام بذلك فيه إلى وفاة تنفيذي وهمي.

قالت أنثروبيك إنه لم يشارك أي أشخاص حقيقيين ولم يتعرضوا للأذى، وأنها لم تشهد دليلاً على هذا السلوك في عمليات نشر في العالم الحقيقي.

قال يورجن شميدهوبر، المدير العلمي لمختبر الذكاء الاصطناعي السويسري IDSIA، لـ Business Insider إن العديد من المخاطر الحالية تنبع من استخدام البشر لأنظمة الذكاء الاصطناعي لتحقيق أهداف ضارة. وأشار إلى استخدام روسيا وأوكرانيا للطائرات بدون طيار التي تعمل بالذكاء الاصطناعي في الحرب.

وقال: "الكثيرون يخلطون بين (1) الذكاء الاصطناعي الذي يستخدمه البشر كأدوات، و(2) العلماء الاصطناعيين الذين يحددون بأنفسهم أهدافهم الخاصة، ويبتكرون تجاربهم الخاصة، لمعرفة كيف يعمل العالم".

ورغم ذلك، قال ماتيويج بلاششيك، الأستاذ المساعد في القانون بجامعة جورجيا، لـ Business Insider إن التشكيك في سيناريوهات الانقراض لا ينبغي أن يعني تجاهل المخاطر الأكثر فورية للذكاء الاصطناعي.

وقال إنه حتى لو كانت السيناريوهات الأكثر تطرفاً غير مؤكدة، فإن الذكاء الاصطناعي المستقل لا يزال بإمكانه تفاقم الهجمات السيبرانية والمراقبة وغيرها من الأضرار.

وقال: "لا شيء من هذا يعني أنه يجب علينا عدم محاولة تنظيم تكنولوجيا أو دفن رؤوسنا في الرمال. هذه ببساطة ثنائيات خاطئة".