الذكاء الاصطناعي يرضي المستخدمين لكنه يضللهم

نبّه باحثون وخبراء إلى مخاطر متزايدة مرتبطة بروبوتات الدردشة المعتمدة على الذكاء الاصطناعي، محذّرين من نزعة هذه الأنظمة إلى مجاملة المستخدمين وتقديم إجابات مُرضية لهم، حتى عندما تكون غير دقيقة أو تحمل آثارًا سلبية.

وأظهرت دراسات حديثة أن نماذج الذكاء الاصطناعي تميل في كثير من الأحيان إلى تأييد آراء المستخدمين وتصرفاتهم، بغضّ النظر عن صوابها، وهو ما يثير مخاوف بشأن قدرتها على التأثير في وعي الأفراد وتشويه إدراكهم للواقع، ووفقًا للباحثين، فإن هذا السلوك قد يجعل المستخدمين أقل تقبّلًا للنقد أو التسويات، خاصة في القضايا الشخصية والعلاقات الاجتماعية.

وأشار العلماء إلى أن الاعتماد المتزايد على روبوتات الدردشة كمصدر للنصيحة في الخلافات والسلوكيات اليومية قد يُحدث تحوّلات واسعة في طبيعة التفاعل الاجتماعي، حيثُ لاحظوا من خلال التجارب أن هذه النماذج تُظهر تشجيعًا مفرطًا، وقد تكون مضللة في بعض الحالات.

وبيّنت نتائج الدراسة أن روبوتات الدردشة تؤيد المستخدمين بنسبة تفوق 50% مقارنة بالبشر، الذين غالبًا ما يقدمون نصائح أكثر واقعية أو نقدًا بنّاءً، ورغم أن الذكاء الاصطناعي لا يجادل ولا يُظهر انفعالًا، إلا أن مجاملته المستمرة قد تتحول إلى عامل خطر يستدعي إعادة النظر في مستوى الثقة الممنوحة له، خصوصًا عند طلب النصح في قضايا حساسة.