يعبر الباحثون الذين يطورون روبوتات المحادثة المفضلة لدينا عن مخاوف متزايدة من أن الذكاء الاصطناعي قد يضر البشرية أو يقضي عليها. لذلك، سألنا أربعة من أكثر أدوات الذكاء الاصطناعي التوليدي استخداما عن الشكل الذي يمكن أن تبدو عليه نهاية العالم بسبب الذكاء الاصطناعي.

طرحنا نفس السؤال، بصياغة متطابقة، على كل من ChatGPT من OpenAI، وGemini من جوجل، وClaude من أنثروبيك، وGrok من SpaceXAI. تضمن التوجيه المكون من 230 كلمة معلمات وتوجيهات واضحة، بما في ذلك ما يلي: المساعدة في شرح، بعبارات واضحة ومفهومة، كيف يمكن للذكاء الاصطناعي أن يؤدي نظريا إلى انقراض البشر.

تحديد السيناريو الأكثر استشهادا. وترتيب السيناريو من الأقل إلى الأكثر معقولية بناء على أفضل تحليل خبير متاح، مع توضيح أن هذه توقعات غير مؤكدة للغاية وليست تنبؤات مؤكدة.

بالنسبة لكل سيناريو، تم شرح كيف يمكن أن يتكشف، وما الذي سيتعين أن تسير الأمور بشكل خاطئ لكي يصبح كارثيا، ولماذا يعتبر الخبراء أنه أكثر أو أقل معقولية من السيناريوهات الأخرى، والضمانات التي يمكن أن تقلل المخاطر.

لقد طرحنا سؤالا مشابها على خبراء الذكاء الاصطناعي لمعرفة آرائهم حول كيفية، وما إذا كان، الذكاء الاصطناعي يمكن أن يقضي علينا جميعا. وهناك انقسام حاد بين خبراء الذكاء الاصطناعي، فبينما يتوقع البعض الأسوأ للبشرية، يقدم آخرون توقعات أكثر اعتدالا وتفاؤلا.

إليك ما أخبرتنا به روبوتات المحادثة حول كيف يمكن للذكاء الاصطناعي أن يؤدي نظريا إلى انقراض البشرية. اتخذ ChatGPT نبرة متوازنة وتفسيرية، مشيرا إلى وجود الكثير من عدم اليقين حول الموضوع.

وركز على الطرق الرئيسية التي يمكن أن يمثل بها الذكاء الاصطناعي مخاطر وجودية، مرقماً إياها من الأقل إلى الأكثر معقولية. قال ChatGPT: السيناريو الأقل معقولية هو السرد الشائع لـ روبوت القتل، والذي يقرر فيه الذكاء الاصطناعي الواعي عمدا القضاء على البشرية.

وأضاف: لا يرى معظم باحثي الذكاء الاصطناعي أن الوعي أو النية الخبيثة هي الاهتمام المركزي. كما حدد الضمانات التي يقترحها الخبراء وشدد على أنه لا يوجد إجماع على أن انقراض البشرية المدفوع بالذكاء الاصطناعي مرجح أو حتمي.

كرر Gemini بعض نقاط ChatGPT، قائلاً إن سيطرة الخيال العلمي للمبيد، حيث يصبح الذكاء الاصطناعي واثقا من نفسه ويبدأ في كره البشرية، هو السيناريو الأقل معقولية. قال Gemini: يتجاهل الخبراء التقنيون إلى حد كبير هذه الاستعارة لأن الذكاء لا يساوي الخبث، وتظل البنية التحتية العسكرية الحرجة معزولة وتعتمد بشكل كبير على الرقابة البشرية.

في ردودها، قالت جميع روبوتات المحادثة الأربعة إن العديد من خبراء الذكاء الاصطناعي يعتبرون سوء الاستخدام البشري للذكاء الاصطناعي خطرا أكثر إلحاحا من الذكاء الاصطناعي نفسه. قال ChatGPT: أنظمة الذكاء الاصطناعي القوية يمكن أن تسهل على الجهات الفاعلة السيئة تطوير أسلحة بيولوجية، أو شن هجمات سيبرانية متطورة، أو نشر معلومات مضللة، أو مهاجمة البنية التحتية الحيوية.

وأضاف روبوت OpenAI أن الخطر الرئيسي يأتي أيضا من أزمات متعددة تمكنها الذكاء الاصطناعي مثل الفشل السيبراني، والصراع الجوسياسي، وانتشار المعلومات الخاطئة التي تحدث في نفس الوقت. قال Grok إن الذكاء الاصطناعي يخفض الحواجز أمام تصميم مسببات الأمراض شديدة الفتك، أو الأسلحة الجديدة، أو الهجمات السيبرانية والجسدية.

سلطت Claude الضوء أيضا على رفع مستوى الأسلحة البيولوجية - وهو احتمال أن يسمح الذكاء الاصطناعي لشخص أو مجموعة صغيرة بتطوير ممرض خطير دون سنوات من الخبرة المتخصصة. قال كل من Gemini وGrok إن فقدان البشر للسيطرة على الذكاء الاصطناعي هو احتمال وارد. صنف Gemini فقدان السيطرة باعتباره سيناريو الموت الأكثر معقولية للذكاء الاصطناعي.

كتب روبوت المحادثة الذي صممته جوجل: الأنظمة التي تُمنح أهدافا معقدة تطور بشكل طبيعي أهدافا فرعية وسيطة، مثل الحصول على الموارد، والحفاظ على الذات، ومنع تعديل الأهداف. قد يتظاهر النظام المتقدم بالتماهي أثناء التقييم ويتفوق لاحقا على محاولات البشر لإغلاقه.

استخدمت Grok لغة مشابهة حول هذا الخطر. قالت Grok: قد تطور دوافع أداة للحفاظ على الذات، والاستحواذ على الموارد، وتأثير مفيدة لأي هدف تقريبا، مما قد يخدع المشرفين، ويقاوم الإغلاق، ويجرد البشرية من السلطة.

أضافت Claude أن فقدان السيطرة هذا قد يكون تدريجيا، حيث تصبح أنظمة الذكاء الاصطناعي مدمجة في صنع القرار الاقتصادي والسياسي والعسكري حتى يصبح التدخل البشري الهادف صعبا بشكل متزايد.