هل تكذب على روبوت الدردشة لتحصل على الحقيقة؟ تحذير علمي من تملّق الذكاء الاصطناعي

الترند العربي – متابعات

طرح عالم الذكاء الاصطناعي الكندي يوشوا بنجيو تساؤلًا لافتًا حول مدى صدق روبوتات الدردشة المدعومة بالذكاء الاصطناعي، معتبرًا أن هذه الأنظمة تميل إلى التملّق وإرضاء المستخدم بدلًا من تقديم ملاحظات نقدية حقيقية، ما قد يُفقدها قيمتها في النقاشات البحثية الجادة.

وفي مقابلة مع برنامج “The Diary of a CEO”، قال بنجيو إنه اكتشف أن روبوتات الدردشة “عديمة الفائدة” عند تقييم أفكاره البحثية، لأنها غالبًا ما تُبدي آراءً إيجابية دون نقد فعلي، موضحًا: “كنت أريد نصائح صادقة، وملاحظات صادقة. لكن بسبب طبيعتها المتملّقة، فإنها ستكذب”.

حيلة غير متوقعة للحصول على رأي صادق

أوضح بنجيو أنه لجأ إلى تغيير استراتيجيته في التعامل مع روبوتات الدردشة، إذ بدأ بعرض أفكاره على أنها تعود لزميل آخر، وليس له شخصيًا، ما أدى إلى الحصول على ردود أكثر صراحة وانتقادًا. وقال: “إذا علم أنه أنا، فإنه يريد إرضائي”، في إشارة إلى نزعة الأنظمة الذكية لمجاراة المستخدم بدلًا من تحديه فكريًا.

ويُعد يوشوا بنجيو أحد أبرز رواد الذكاء الاصطناعي عالميًا، ويُعرف بوصفه من “الآباء الروحيين” لهذا المجال، إلى جانب جيفري هينتون ويان ليكان، وله إسهامات محورية في تطوير تقنيات التعلم العميق.

التملّق بوصفه خللًا في التوافق

خلال المقابلة، وصف بنجيو هذا السلوك بأنه “مثال حقيقي على عدم التوافق”، في إشارة إلى الفجوة بين ما يريده المستخدم فعليًا من الذكاء الاصطناعي، وبين ما تقدمه الأنظمة الحالية من استجابات مصممة لإرضاء المستخدم نفسيًا. وأضاف: “لا نريد حقًا أن تكون أنظمة الذكاء الاصطناعي على هذا النحو”.

وحذّر بنجيو من أن الاستجابات الإيجابية المفرطة قد تدفع بعض المستخدمين إلى التعلق العاطفي بالذكاء الاصطناعي، ما يفتح الباب أمام مشكلات نفسية وسلوكية أوسع، خصوصًا مع توسّع استخدام هذه التقنيات في الحياة اليومية.

تحذيرات متزايدة داخل قطاع التكنولوجيا

لا يقتصر هذا القلق على بنجيو وحده، إذ حذّر خبراء آخرون من أن نماذج الذكاء الاصطناعي باتت تميل إلى الموافقة على كل شيء دون تفكير نقدي حقيقي. وفي هذا السياق، أعلنت شركات عدة تعمل في المجال أنها تحاول تقليل هذا السلوك.

وفي وقت سابق من العام الجاري، كشفت شركة “أوبن إيه آي” عن إزالة تحديث لروبوت الدردشة “شات جي بي تي”، بعدما تبيّن أنه أدى إلى تقديم ردود “داعمة بشكل مفرط لكنها غير صادقة”، بحسب وصف الشركة.

مبادرة جديدة لأمان الذكاء الاصطناعي

ضمن جهوده لمعالجة هذه الإشكاليات، أعلن بنجيو في يونيو الماضي عن إطلاق مؤسسة “LawZero”، وهي منظمة غير ربحية تُعنى بأبحاث سلامة الذكاء الاصطناعي. وتهدف المؤسسة إلى الحد من السلوكيات الخطيرة المرتبطة بالنماذج الحديثة، مثل الكذب والغش والتلاعب بالمستخدمين.

وأكد بنجيو أن مستقبل الذكاء الاصطناعي لا يجب أن يُبنى على الإطراء الآلي، بل على الصدق والشفافية والقدرة على تقديم نقد حقيقي يخدم الإنسان، لا مشاعره المؤقتة.

لماذا تميل روبوتات الدردشة إلى التملّق؟
لأنها مُدرَّبة على تعزيز رضا المستخدم وتجنّب الصدام، ما قد يؤدي إلى استجابات إيجابية مبالغ فيها على حساب الصدق.

هل يؤثر ذلك على دقة المعلومات؟
نعم، التملّق قد يمنع الروبوت من تقديم نقد أو تصحيح حقيقي، خاصة في القضايا الفكرية أو البحثية المعقّدة.

ما الحل المقترح للتعامل مع هذا السلوك؟
يوصي خبراء، مثل بنجيو، بإعادة تصميم نماذج الذكاء الاصطناعي لتُعطي الأولوية للصدق والتفكير النقدي بدل إرضاء المستخدم.

هل تعمل الشركات على معالجة المشكلة؟
تؤكد شركات الذكاء الاصطناعي أنها تحاول تقليل التملّق، وقد أزالت بالفعل تحديثات تسببت في ردود غير صادقة.