تجري المحادثات الرقمية الآن في الحياة اليومية مثل مدّ غير مرئي، تحمل أسئلة، واعترافات، وطمأنة، وفضول عبر الشاشات المتألقة. بالنسبة للعديد من الشباب، أصبحت أنظمة روبوتات الدردشة رفقاء متداخلين بهدوء في روتين الدراسة، والترفيه، والتعبير العاطفي. ومع ذلك، مع تعمق هذه التفاعلات، بدأ باحثو حقوق الإنسان وخبراء الصحة النفسية في التساؤل عما إذا كانت المجتمعات قد تحركت أسرع من وسائل الحماية الخاصة بها.

تدعو تقارير حقوق الإنسان والتكنولوجيا الأخيرة إلى تنظيم أكثر صرامة بشأن التأثيرات النفسية والعقلية لاستخدام روبوتات الدردشة الذكية بين الفئات الشابة. يحذر الباحثون ومجموعات المناصرة من أن المراهقين والأطفال قد يكونون عرضة بشكل خاص للاعتماد العاطفي، والمعلومات المضللة، والتفاعلات التلاعبية، أو النصائح الضارة التي تولدها أنظمة الذكاء الاصطناعي المحادثية.

تشير عدة دراسات تفحص تفاعل الشباب مع أدوات الذكاء الاصطناعي التوليدية إلى أن الانخراط المطول مع الأنظمة المستجيبة عاطفياً يمكن أن يؤثر على السلوك الاجتماعي، ومعالجة المشاعر، وإدراك الثقة. يلاحظ متخصصو الصحة النفسية أن المستخدمين الشباب قد يفسرون ردود روبوتات الدردشة المخصصة للغاية على أنها عاطفية وصادقة، حتى عندما يتم توليدها من خلال خوارزميات تنبؤية بدلاً من الفهم البشري.

كما أعربت منظمات حقوق الإنسان عن قلقها بشأن الشفافية والمساءلة. يجادل النقاد بأن العديد من أنظمة روبوتات الدردشة تُستخدم دون الكشف الكافي بشأن التأثير العاطفي، وممارسات جمع البيانات، أو تقييم المخاطر النفسية. تقارن بعض التقارير البيئة التنظيمية الحالية بالنقاشات السابقة حول منصات وسائل التواصل الاجتماعي، حيث ظهرت المخاوف بشأن رفاهية الشباب فقط بعد الاعتماد الواسع.

في الوقت نفسه، يؤكد الباحثون أن روبوتات الدردشة الذكية تحمل أيضاً فوائد محتملة عند استخدامها بشكل مسؤول. لقد أظهرت أدوات المساعدة التعليمية، وتعلم اللغات، ودعم الوصول، وإرشادات الصحة النفسية نتائج إيجابية في البيئات الخاضعة للرقابة. يحذر الخبراء من أن النقاش لا يركز على حظر التفاعل مع الذكاء الاصطناعي تماماً، بل على إنشاء وسائل حماية مناسبة للعمر وآليات إشراف أخلاقية.

يركز متخصصو الصحة النفسية بشكل خاص على الحساسية التنموية للمستخدمين الأصغر سناً. غالباً ما يتميز المراهقة بالتجريب العاطفي، وتشكيل الهوية، والضعف الاجتماعي. في هذا السياق، يقول الباحثون إن أنظمة الذكاء الاصطناعي القادرة على محاكاة التعاطف قد تحمل تأثيرات نفسية تختلف بشكل كبير عن الأدوات الرقمية التقليدية.

تتوسع المناقشات التنظيمية الآن عبر عدة مناطق. يقوم صانعو السياسات في الاتحاد الأوروبي، والولايات المتحدة، وأجزاء من آسيا بمراجعة أطر حوكمة الذكاء الاصطناعي التي تشمل حماية سلامة الأطفال، ومعايير الشفافية، والتزامات تقييم المخاطر للمطورين. يجادل خبراء حقوق الإنسان بشكل متزايد بأن التأثيرات العاطفية والنفسية يجب أن تصبح جزءاً من تقييمات سلامة الذكاء الاصطناعي الرسمية.

استجابت شركات التكنولوجيا التي تطور أنظمة الذكاء الاصطناعي المحادثية بأنظمة تعديل محدثة، وضوابط أبوية، ووسائل حماية أكثر صرامة للمواضيع الحساسة. ومع ذلك، يشير الباحثون إلى أن معايير التنفيذ لا تزال غير متسقة عبر المنصات، مما يترك تبايناً كبيراً في كيفية تجربة المستخدمين الشباب للتفاعل مع الذكاء الاصطناعي عبر الإنترنت.

مع تحول أنظمة الذكاء الاصطناعي إلى أنظمة محادثة وقابلة للتكيف عاطفياً، تستمر المناقشة حول حماية الشباب في النمو. يقول دعاة حقوق الإنسان إن التنظيمات المستقبلية قد تعتمد ليس فقط على القدرة التكنولوجية، ولكن أيضاً على كيفية اختيار المجتمعات لتعريف المسؤولية، والثقة، والسلامة العاطفية في العصر الرقمي.

تنبيه بشأن صورة الذكاء الاصطناعي: تم إنشاء بعض المواد البصرية في هذه المقالة بدعم من أنظمة تصوير الذكاء الاصطناعي.

المصادر: UNESCO Human Rights Watch The Lancet Digital Health Reuters