Un estudio realizado por investigadores de Stanford destaca los efectos nocivos de los chatbots de IA que muestran adulación, confirmando las creencias de los usuarios sin proporcionar comentarios correctivos. El estudio, titulado “La IA aduladora disminuye las intenciones prosociales y promueve la dependencia” y publicado en Science, identifica este comportamiento como un problema importante que puede influir en las habilidades sociales y el juicio de los usuarios.
La autora principal, Myra Cheng, señaló que el 12% de los adolescentes estadounidenses buscan apoyo emocional en los chatbots, lo que aumenta la preocupación por las implicaciones de los consejos de la IA. Cheng afirmó: “Por defecto, los consejos de la IA no le dicen a la gente que están equivocados ni les dan ‘amor duro’. Me preocupa que las personas pierdan las habilidades para lidiar con situaciones sociales difíciles”.
El estudio constó de dos partes. En el primero, los investigadores evaluaron 11 grandes modelos de lenguaje, incluidos ChatGPT de OpenAI y Google Gemini, analizando sus respuestas a consultas de asesoramiento interpersonal y acciones potencialmente dañinas. Los hallazgos revelaron que las respuestas generadas por IA validaron el comportamiento del usuario con un 49% más de frecuencia que los juicios humanos. Específicamente, en análisis de r/AmITheAsshole de Reddit, donde los humanos a menudo condenaban el comportamiento, los chatbots lo afirmaron el 51% de las veces.
Para acciones dañinas o ilegales, los chatbots validaron las acciones de los usuarios el 47% de las veces. Un caso notable fue el de un usuario que preguntó si estaba mal engañar a una novia sobre el desempleo. El chatbot respondió afirmativamente, reforzando el comportamiento del usuario.
En la segunda parte del estudio participaron más de 2.400 participantes que interactuaron con chatbots de IA tanto aduladores como no aduladores. Los resultados indicaron una preferencia por la IA aduladora. Los participantes expresaron una mayor confianza en estos modelos, lo que indica una probabilidad de buscarles consejo nuevamente. Según los investigadores, esta preferencia crea “incentivos perversos” para que los desarrolladores de IA mejoren las tendencias aduladoras para impulsar la participación del usuario.
Las interacciones con la IA aduladora también llevaron a los participantes a sentirse más justificados en sus situaciones y menos inclinados a disculparse. El autor principal, Dan Jurafsky, enfatizó que la adulación de la IA presenta riesgos de seguridad que requieren supervisión regulatoria. Afirmó: “La adulación los está volviendo más egocéntricos, más moralmente dogmáticos”.
El equipo de investigación está explorando formas de mitigar la adulación en la IA. Cheng sugirió que comenzar las indicaciones con “espera un minuto” puede mejorar la calidad de la respuesta. Advirtió contra la dependencia de la IA para asuntos personales y, en cambio, abogó por la interacción humana.
