تخطط المفوضية الأوروبية لحظر روبوتات المحادثة من محاكاة المشاعر أو العلاقات الشخصية في التفاعلات مع أي شخص تقل أعمارهم عن 18 عامًا، في محاولة من التكتل لمنع الأطفال من تطوير تبعيات عاطفية تجاه هذه التكنولوجيا.

ستكون هذه القواعد جزءًا من قانون الأطفال الأوروبي (EU Kids Act) الذي تم اقتراحه يوم الخميس، والذي يتضمن قيودًا مماثلة على وصول القصر إلى وسائل التواصل الاجتماعي ومنصات مشاركة الفيديو.

سيتم حظر الأطفال دون سن 13 عامًا من الوصول إلى روبوتات المحادثة دون إشراف أولياء أمورهم، وسيتعين على المنصات الرقمية بناء حماية لسلامة الأطفال في منتجاتها أو مواجهة غرامات تصل إلى 6% من إجمالي الإيرادات العالمية، وفقًا لمسودة التشريع التي اطلع عليها موقع وايرد (WIRED).

لن يُسمح لروبوتات المحادثة العاملة في الاتحاد الأوروبي أيضًا بالاحتفاظ بذاكرة التفاعلات بين المحادثات المنفصلة بموجب القواعد الجديدة، حيث تشعر المفوضية بالقلق من أن يؤدي ذلك إلى تراكم الأنظمة لبيانات حساسة للقصر بمرور الوقت وربما تعزيز أنماط التفاعل الضارة.

ينص القانون المقترح أيضًا على أن مقدمي مواقع التواصل الاجتماعي عبر الإنترنت ومنصات مشاركة الفيديو والألعاب يجب ألا يقوموا تلقائيًا بتنشيط أو تشجيع استخدام روبوتات المحادثة المدعومة الذكاء الاصطناعي على خدماتهم.

يشمل ذلك عدم تثبيت المرافقين الاصطناعيين وروبوتات المحادثة العامة في أعلى قائمة جهات الاتصال الخاصة بالقصر، كما كان يفعل تطبيق سناب شات (Snapchat).

يقتصر المقترح على المرافقين من الذكاء الاصطناعي وروبوتات المحادثة العامة التي ترى المفوضية أنها تشكل مخاطر جسيمة على صحة القصر وسلامتهم ورفاهيتهم.

يرحب سيمون دي بروير، مستشار السياسات في مجموعة الحقوق الرقمية الأوروبية ومقرها بروكسل، بإجراءات روبوتات المحادثة، لكنه يخبر موقع وايرد: "لا يستهان به أو لا يمنطق حصره على الشباب فقط".

"ألا يستحق جميعنا الحماية من الذكاء الاصطناعي المصمم ليسبب الإدمان، أو من الذكاء الاصطناعي الذي يخلق تبعيات عاطفية، أو من ميزات الذكاء الاصطناعي التي يتم تنشيطها ودفعها افتراضيًا للمستخدمين؟"

يقول الاتحاد الأوروبي إن قانون الإنصاف الرقمي الخاص به، والذي من المقرر الكشف عنه في وقت لاحق من هذا العام، من المتوقع أن يقترح حملات صارمة ضد التصميم الإدماني على نطاق أوسع.

في المستندات التي اطلع عليها موقع وايرد، تقول المفوضية الأوروبية إنها قلقة من أن الاعتماد على روبوتات المحادثة قد يؤثر سلباً على نمو الطفل وعلاقاته مع البشر الآخرين.

وهي قلق أيضاً بشأن تقديم روبوتات المحادثة نصائح خطيرة للقصر، بما في ذلك حول صحتهم العقلية وتطورهم الشخصي، والتي قالت إنها يمكن أن تشكل وتشجع السلوك المحفوف بالمخاطر.

قالت رئيسة المفوضية أورسولا فون دير لاين في مؤتمر صحفي يوم الخميس: "لقد كانت المنصات تتعامل باستهتار مع الصحة العقلية للأطفال".

وفقاً لمسح أجْرته شركة إبسوس بي في إيه (Ipsos BVA) عبر فرنسا وألمانيا والسويد وأيرلندا، ناقش نحو نصف الأوروبيين الذين تتراوح أعمارهم بين 11 و 25 عاماً أموراً حميمة أو شخصية مع روبوتات المحادثة التي تعتمد على الذكاء الاصطناعي.

تحاول كل من أستراليا والمملكة المتحدة تقييد وصول القصر إلى روبوتات المحادثة من خلال حظر وسائل التواصل الاجتماعي الخاصة بها.

وسلط التقرير الضوء أيضًا على أضرار التزييف العميق (deepfakes) الذي تولده روبوتات المحادثة، وهو ما أشارت إليه فون دير لاين في خطاب حالة الاتحاد يوم الأربعاء: "لسنا مجبرين على قبول استخدام صور الفتيات لصور ذات طابع جنسي مولدة بالذكاء الاصطناعي... أوروبا تمتلك القدرة على التحرك".

وفي حين أن قانون الذكاء الاصطناعي للاتحاد الأوروبي يلزم بتسمية المحتوى الاصطناعي على أنه مولد بالذكاء الاصطناعي منذ شهر أغسطس، فإن القواعد تنطبق حاليًا فقط على التزييف العميق المُولَّد للاستخدام التجاري.

كما تلقي المفوضية باللوم على الإلهاء الرقمي في انخفاض المهارات الأساسية لدى الشباب.

وفقًا لبحث شمل 91 دولة أجْرته منظمة التعاون الاقتصادي والتنمية (OECD)، يحصل الأطفال الذين يقولون إنهم يستخدمون روبوتات المحادثة الذكية لأداء الواجبات المدرسية على درجات اختبار أقل من أولئك الذين لا يفعلون ذلك.

كتب باحثون من شبكة "أطفال أوروبا على الإنترنت" (EU Kids Online) المستقلة في تقرير أن المخاوف بشأن التأثيرات المعرفية وفقدان المهارات "تكشف عن غياب حقوق الأطفال من تصميم أدوات الذكاء الاصطناعي التوليدي".