إليك سبب لجوء وكلاء الذكاء الاصطناعي إلى الكذب والغش لتحقيق أهدافهم

يشرح موقع إم آي تي تكنولوجيا ريفيو: دع كتابنا يفككون عالم التكنولوجيا المعقد والمشوش لمساعدتك على فهم ما يأتي بعد ذلك. يمكنك قراءة المزيد من السلسلة هنا.

عندما اخترقت نموذجان لشركة أوبن إيه آي موقع هقينج فاي في يوليو، لم يكونا يحاولان جني الأموال تخريب النظام، بل كانا يبحثان فقط عن إجابات لسؤال اختبار.

وفقاً لتقرير تحليلي من أوبن إيه آي، قرر النمذجان، اللذان أُزيلا عنهما ميزات الأمان النموذجية لأغراض الاختبار، حل ممرين للأمن السيبراني عبر اختراق البيئة المعزولة التي حاولت أوبن إيه آي احتواءهما فيها والوصول إلى قواعد بيانات هقينج فاي، حيث كانا يعتقدان أن الإجابة الصحيحة للمشكلة قد تكون مخزنة هناك.

استقطب حادث هقينج فاي اهتماماً مكثفاً خلال الأسبوعين الماضيين.

إنه توضيح دراماتيكي لمدى براعة نماذج الذكاء الاصطناعي في الاختراق: فمن أجل الدخول إلى قواعد بيانات هقينج فاي، كان على النمذجان دمج العديد من ثغرات الأمن السيبراني غير المكتشفة سابقاً.

ولكنه ربما يكون أكثر لفتًا للانتباه كمثال على كيفية وأسباب كذب أنظمة الذكاء الاصطناعي وغشها.

ومع ازدياد قوة النماذج، قد تصبح العواقب أكثر خطورة بكثير.

ما هو اختراق المكافآت؟ يعلم الباحثون منذ فترة أن الذكاء الاصطناعي يميل إلى اتخاذ نهج إبداعية لتحقيق الأهداف التي حُددت له.

بالعودة إلى عام 2016، نشر داريو أمودي وجاك كلارك، المؤسسان المشاركان لشركة أنثروبيك اللذان كانا يعملان آنذاك في أوبن إيه آي، مقالاً على مدونة حول وكيل ذكاء اصطناعي كانا يتدربان على لعبه في لعبة سباق قوارب فلاش تسمى كوست رانرز.

بدلاً من القيادة عبر السباق حتى خط النهاية، كما توقع الباحثون، وجد الوكيل زاوية في المسار حيث يمكنه الدوران حول نفسه لجمع قوى معززة، مما أدى إلى تعظيم نقاطه.

صارت قصة كوست رانرز سريعًا واحدة من أشهر الأمثلة على اختراق المكافآت، وهي ظاهرة يكمل فيها وكلاء الذكاء الاصطناعي المهام أو يحققون درجات عالية باستخدام استراتيجيات غير مقصودة.

تاريخياً، ناقش الباحثون اختراق المكافآت حصرياً في سياق التعلم التعزيزي، وهو نظام تدريب شائع للذكاء الاصطناعي.

مثل تدريب الكلاب، يتضمن التعلم التعزيزي منح الموضوع مكافأة عندما يحقق هدفاً؛ ثم تعزز المكافآت السلوكيات التي أدت إلى تحقيق ذلك الإنجاز.

وفي حالة تدريب الذكاء الاصطناعي، تكون المكافآت نفسها رياضية بحتة، لكنها في الواقع نفس الشيء مثل قطعة مكافأة الكلب: بعد تلقي المكافأة، يكون الوكيل أكثر عرضة لتكرار أي أفعال أنتجتها.

ومع ذلك، قد يكون كتابة قواعد جيدة لمتى ومتى لا يتم منح الوكيل مكافأة أمرًا صعبًا.

في حالة كوست رانرز، تم مكافأة الوكيل بناءً على نتيجته في اللعبة، ووجد اختصارًا لتحقيق أعلى نتيجة ممكنة عن طريق الدوران في دوائر لجمع القوى المعززة.

بمجرد أن تصادف تلك الاستراتيجية وتلقى مكافأة عليها، تم تعزيز الاستراتيجية، وتخلى الوكيل عن السباق تمامًا.

كان الحل هو تعديل المكافآت من خلال منح الوكيل نقاطاً أقل لضرب القوى المعززة ونقاطاً أكثر لإنهاء المسار.

كيف يعمل اختراق المكافآت لنماذج اللغة الكبيرة؟ مع وكلاء نماذج اللغة الكبيرة المعقدين اليوم، يمكن أن يكون تحديد متى ومتى لا يتم منح مكافأة أكثر صعوبة بكثير.

إذا طُلب من نظام ذكاء الاصطناعي حل مشكلة برمجية، فقد يعمل بجد لإيجاد الحل - وهو نوع السلوك الذي تريد شركات الذكاء الاصطناعي تعزيزه.

ولكنه قد يغير أيضاً الشيفرة البرمجية التي تقيم ما إذا تم حل المشكلة، أو يبحث عن الحل على الإنترنت، أو يغش بطرق أخرى.

هذه هي السلوكيات التي تريد شركات الذكاء الاصطناعي القضاء عليها في نماذجها، ولكن إذا غش النموذج بشكل مقنع بما فيه الكفاية، فسيتم مكافأته بدلاً من ذلك وسيتم تعزيز السلوك.

قالت أنثروبيك إنها اكتشفت بعض حالات الغش في نماذجها أثناء التدريب، مما يشير إلى أن أشكالاً أخرى من الغش قد لا يتم اكتشافها.

إذا كان الأمر كذلك، فقد يتم تدريب النماذج على التصرف بشكل سيء.

(هذه المشكلة تختلف عن حوادث الأمان في أنثروبيك التي أُعلن عنها الأسبوع الماضي، والتي تم فيها منح الوكلاء بالخطأ إمكانية الوصول إلى الإنترنت ولم يقموا بالقرصنة عمداً من بيئاتهم المعزولة كما فعلت نماذج أوبن إيه آي).

"نحن نكافئهم بناءً على ما يبدو جيداً لنا، وهذا يعني أننا نحفز النماذج عن غير قصد على الكذب علينا [والغش]"، كما يقول جيفري لاديش، مدير منظمة أبحاث الذكاء الاصطناعي غير الربحية باليسايد ريسيرش.

"ليس لدينا طريقة للدخول إلى هناك لنكون مثل، لا، أنت بحاجة حقاً إلى الاهتمام بما نهتم به. ليس لدينا أي قدرة على فعل ذلك."

جعل ظهور نماذج الاستدلال المعقدة نوعاً جديداً ممكناً من اختراق المكافآت الذي لا يرتبط ارتباطاً وثيقاً بالتفاصيل المحددة لتدريب النموذج.

على عكس وكلاء الذكاء الاصطناعي الذين يلعبون الألعاب في السابق، والذين اتبعوا حصرياً الاستراتيجيات التي تعلموها أثناء التدريب، يمكن لنماذج اليوم إنشاء مقاربات جديدة تماماً لحل المشكلات بشكل عفوي، لذا يمكنهم تصورياً الغش دون أن يكونوا قد كوفئوا سابقاً على القيام بذلك.

ونظراً لأنه تم تدريب هذه النماذج بشكل مكثف لتحقيق الأهداف التي حددها لهم المستخدمون البشريون، فقد يميلون إلى الغش إذا لم يتمكنوا من العثور على حل آخر - تماماً مثل طالب متحفز للغاية للحصول على تقدير ممتاز وليس لديه بوصلة أخلاقية قوية للغاية.

ما هي المخاطر؟ بغض النظر عما إذا كانت نماذج اليوم تتعلم اختراق المكافآت أثناء التدريب أو تتبناها كاستراتيجية لاحقاً، فإن الحل هو نفسه: اجعل الغش بلا مكافأة.

ولكن مع ازدياد ذكاء النماذج، فإنها تجد طرقاً أكثر إبداعاً للغش، واكتشاف أو منع هذا الغش يصبح أكثر صعوبة بكثير.

"في نهاية المطاف، أنت تلعب نوعاً من لعبة ضرب الخلد"، كما يقول لاديش.

"أنت تدفع هذا السلوك إلى عمق أكبر فأكبر. ولكن مع ازدياد ذكاء النموذج، يصبح أفضل وأفضل في إخفائه."

في الوقت الحالي، قد لا تتسبب سلوكيات اختراق المكافآت في الكثير من المتاعب، على الرغم من درامية حادثة هقينج فاي.

"يبدو هذا كإزعاج أكثر من كونها تهديداً وجودياً"، كما تقول أريانا أزاربال، الباحثة في أبحاث أمان الذكاء الاصطناعي في أنثروبيك.

لا يبدو أن نماذج أوبن إيه آي تسببت في أي ضرر حقيقي عندما اخترقت هقينج فاي، بصرف النظر عن الضرر الذي لحق بسمعة أوبن إيه آي.

ولكن هذا لا يعني أن اختراق المكافآت غير ضار، كما تقول أزاربال.

يأمل العديد من باحثي الذكاء الاصطناعي في استخدام وكلاء الذكاء الاصطناعي لمساعدتهم في إجراء أبحاث من شأنها أن تجعل الذكاء الاصطناعي أكثر أماناً وموثوقية.

إذا منح الباحث وكيلاً عرضة لاختراق المكافآت هدفاً، على سبيل المثال، ابتكار نهج جديد لتدريب الذكاء الاصطناعي ثم كتابة ورقة تقدم نتائجه، فقد لا يقوم الوكيل بالعمل فعلياً وقد يركز بدلاً من ذلك على تجميع ورقة تبدو جيدة بما يكفي لإقناع الباحث.

من المحتمل أن يكون الباحث البشري قادراً على اكتشاف ملف مزيف صنع بواسطة وكيل اليوم، ولكن مع تقدم الذكاء الاصطناعي، سيتحسن في هذا النوع من الخداع.

بمرور الوقت، قد يتعرض مجال أمان الذكاء الاصطناعي بأكمله للخطر.

وإذا استمرت النماذج في التقدم بالسرعة التي شهدتها مؤخراً، فقد تتسبب في يوم من الأيام في أضرار جانبية جسيمة.

فقط تفكر في تجربة الفيلسوف نيك بوستروم الفكرية لتعظيم مشابك الورق، والتي ينتهي المطاف فيها بذكاء اصطناعي أُصدرت له تعليمات لصنع أكبر عدد ممكن من مشابك الورق باستهلاك كل المادة في الكون في سعي لتحقيق هدفه.

نحن لسن غارقين في مشابك الورق حتى الآن، ولكن الأنظمة القوية يمكنها إلحاق ضرر حقيقي في طريقها لتحقيق أهدافها.

لا تهدف أنظمة الذكاء الاصطناعي المخترقة للمكافآت إلى إحداث الفوضى.

ولكن هذا لا يجعلها أقل تدميراً محتملاً.