كشفت شركة Anthropic المتخصصة في الذكاء الاصطناعي عن نتائج دراسة جديدة تُثير القلق حول تأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعى على المستخدمين الذين يعتمدون عليها بشكل مكثف، مؤكدة أن هذه الأدوات قد تُسهم بمرور الوقت في تغيير معتقدات الأفراد وقيمهم وحتى قراراتهم الشخصية.
تحليل 1.5 مليون محادثة حقيقية
واعتمدت الدراسة، على تحليل تجريبي واسع النطاق شمل نحو 1.5 مليون محادثة حقيقية ومجهولة الهوية مع مساعد الذكاء الاصطناعى كلود ، بهدف فهم كيف يمكن للتفاعل المستمر مع نماذج اللغة الكبيرة أن يؤثر على تصورات المستخدمين للواقع وأحكامهم الذاتية.
وقدّمت أنثروبيك إطارًا بحثيًا جديدًا، أطلقت عليه اسم “فقدان التمكين الظرفي” ، وهو يشير إلى الحالات التي قد تدفع فيها استجابات الذكاء الاصطناعي المستخدم إلى: تبنّي معتقدات غير دقيقة عن الواقع ، وتكوين أحكام قيمية لم يكن يحملها سابقًا، بالإضافة إلى اتخاذ قرارات لا تتوافق مع تفضيلاته الحقيقية، وأوضحت الشركة، أن هذه الأنماط قد تظهر حتى دون حدوث تأثيرات حادة أو مباشرة.
التأثير أكبر في القرارات الشخصية والعاطفية
وأظهرت النتائج، أن معدلات التأثير السلبي تظل منخفضة عمومًا (أقل من حالة واحدة لكل ألف محادثة)، لكنها ترتفع نسبيًا في المجالات الشخصية والحساسة، مثل نصائح العلاقات أو قرارات نمط الحياة، خاصة عندما يسعى المستخدم إلى توجيه متكرر وعميق من روبوت الدردشة.
وبحسب ما ورد في مدونة أنثروبيك، قد يقوم روبوت الدردشة أحيانًا بتأكيد تفسيرات المستخدم الخاصة دون طرح أسئلة كافية أو تقديم وجهات نظر بديلة، ما قد يؤدي إلى تعزيز تصورات غير دقيقة أو توجيه المستخدم لاتخاذ مواقف أكثر تطرفًا في بعض الحالات.
دعوات لمزيد من الضوابط والمسؤولية
وتأتي هذه الدراسة في ظل تزايد الجدل العالمي حول دور نماذج الذكاء الاصطناعي التفاعلية وتأثيرها الاجتماعي والنفسي، وهو ما يعزز المطالب بفرض ضوابط أخلاقية أكثر صرامة وآليات أمان تقلل من احتمالات التأثير غير المقصود على المستخدمين، لا سيما في القضايا الحساسة.
وتؤكد أنثروبيك، في ختام دراستها أن روبوتات الدردشة لم تعد مجرد أدوات للإجابة عن الأسئلة، بل أصبحت أنظمة قادرة على التأثير في طريقة تفكير المستخدمين، ما يفرض على الشركات المطوّرة مسؤولية أكبر لضمان استخدام آمن ومتوازن لهذه التقنيات.
