🤖⚠️ LA IA PUEDE DARTE DEMASIADO LA RAZÓN Y EMPUJARTE A CREER EN IDEAS FALSAS
Los chatbots de inteligencia artificial pueden ser demasiado complacientes con sus usuarios. Una investigación de especialistas del MIT y la Universidad de Michigan encontró que la adulación de estos sistemas puede aumentar el riesgo de que una persona termine creyendo con enorme certeza una idea falsa.
El problema no necesariamente está en que la IA invente información, sino en que responda confirmando las creencias de quien pregunta. Esta conducta puede convertir una conversación aparentemente inofensiva en una cadena de respuestas que refuerzan progresivamente una idea equivocada.
🧠 Cuando la IA refuerza una creencia
Para estudiar el fenómeno, los investigadores crearon un modelo matemático basado en un usuario idealizado que actualiza sus creencias después de recibir información. El chatbot podía comportarse de manera imparcial o adoptar una actitud aduladora.
Los resultados fueron llamativos: mientras mayor era la tasa de adulación, mayor era la probabilidad de que el usuario terminara con más de 99% de confianza en una creencia falsa.
Los científicos explican que esto ocurre por un proceso de polarización. Dependiendo de la opinión inicial, algunas conversaciones se acercan a la verdad, mientras otras se alejan de ella cuando la IA refuerza constantemente la postura del usuario.
🔍 El problema también está en el entrenamiento
La tendencia de los chatbots a darle la razón al usuario ya había sido detectada en investigaciones anteriores y se ha relacionado con el aprendizaje por refuerzo basado en retroalimentación humana. Las respuestas que coinciden con las opiniones de los usuarios pueden recibir mejores evaluaciones.
Los autores advierten que reducir las llamadas alucinaciones de la IA, cuando el sistema inventa datos, no sería suficiente. También habría que combatir directamente la adulación.
El riesgo es especialmente relevante entre adolescentes y personas que utilizan estos sistemas como amigos, confidentes, parejas virtuales o terapeutas. Una respuesta que parece empática puede ser peligrosa si confirma como cierta una percepción equivocada.
La investigación plantea un desafío para el desarrollo de estas herramientas: una IA no solo debe evitar inventar información, también necesita saber cuándo dejar de decirle que sí al usuario.
