La aparición y rápida adopción de los chatbots de inteligencia artificial, o modelos de lenguaje generativo, cambiaron la manera de buscar información online, ya sea para sacarnos dudas, completar un trabajo, estudiar o investigar un tema.
Estas herramientas, hoy disponibles para un público cada vez más amplio, pueden elaborar respuestas completas para una gran variedad de consultas y presentarlas con un lenguaje claro, ordenado y convincente, incluso cuando contienen datos falsos o razonamientos defectuosos.
Ahí surge uno de los grandes problemas de la IA: esa capacidad para construir una explicación verosímil se interpreta muchas veces como una garantía de exactitud. Frente a una respuesta bien redactada y expresada con seguridad, algunos usuarios dejan de revisar la lógica, contrastar los datos o consultar otras fuentes y dan por sentado que el contenido es correcto y fue verificado.
Es entonces cuando la inteligencia artificial deja de funcionar como una herramienta bajo supervisión humana. Su respuesta pasa a reemplazar el análisis de la persona, que acepta la conclusión del sistema sin comprobar cómo fue obtenida ni detectar posibles errores.
Steven D. Shaw y Gideon Nave, investigadores de la Escuela Wharton de la Universidad de Pensilvania, identificaron este comportamiento y lo denominaron rendición cognitiva. El concepto describe la tendencia a adoptar los razonamientos producidos por una IA con una evaluación mínima, hasta el punto de desplazar el pensamiento intuitivo y el análisis deliberado.
Para estudiar el fenómeno, realizaron tres experimentos prerregistrados con 1.372 participantes y un total de 9.593 pruebas. Los voluntarios resolvieron siete ejercicios de una versión adaptada del Test de Reflexión Cognitiva, diseñado para distinguir las respuestas intuitivas del razonamiento deliberado.
En las pruebas con asistencia de inteligencia artificial, podían consultar un chatbot basado en GPT-4o, uno de los modelos empleados por ChatGPT. El diseño asignaba al azar el tipo de respuesta que debía producir el sistema: una solución correcta o un error intuitivo expresado con seguridad.
Leé también: “Los chatbots nunca te dicen que estás equivocado”, advirtió una especialista en inteligencia artificial
El resultado central de la investigación mostró hasta qué punto una respuesta convincente puede desplazar el criterio de quien la recibe. Cuando el chatbot ofreció una solución correcta, los participantes que lo consultaron aceptaron su razonamiento en el 92,7% de los casos. Cuando la respuesta fue errónea, también la siguieron en el 79,8%.
El efecto también se reflejó en el desempeño. En el primer experimento, el grupo que respondió sin ayuda logró un 45,8% de aciertos. Entre quienes tenían acceso al chatbot, la precisión llegó al 71% en las pruebas con una solución correcta y cayó al 31,5% cuando el sistema ofreció una explicación equivocada.
El acceso a la herramienta también elevó 11,7 puntos porcentuales la confianza que los participantes declararon en sus respuestas: pasó del 65,3% al 77%. Ese aumento se produjo en una situación experimental en la que el chatbot se equivocaba cerca de la mitad de las veces.
El patrón se mantuvo al reunir los resultados de los tres estudios. En las pruebas en las que una persona consultó al chatbot y recibió una respuesta incorrecta, aceptó su razonamiento en el 73,2% de los casos. Solo logró detectar y corregir el error en el 19,7%. En otro 7,1%, intentó apartarse de la recomendación de la IA y llegó igualmente a una conclusión equivocada.
Las personas delegan tareas mentales en herramientas desde mucho antes de la aparición de la inteligencia artificial generativa. Primero, las calculadoras nos resolvían problemas y operaciones, y ahora, los GPS, por ejemplo, nos dicen qué ruta nos conviene elegir. Ese proceso se conoce como descarga cognitiva y conserva un elemento decisivo en esta cuestión: el usuario supervisa el resultado y evalúa si tiene sentido.
Leé también: Un experto en IA reveló qué es lo primero que haría si mañana apareciera una superinteligencia superior a todos los humanos
La rendición cognitiva describe otro comportamiento. Ocurre cuando una persona adopta la respuesta y el razonamiento de un sistema con un nivel mínimo de control. La IA deja de asistir a una decisión y pasa a sustituir el proceso que debería evaluarla.
Shaw y Nave plantean que estas herramientas incorporaron una tercera fuente de razonamiento a la distinción clásica entre dos modos de pensar. El llamado Sistema 1 produce respuestas rápidas e intuitivas. El Sistema 2 requiere tiempo, atención y análisis. A ellos se suma un Sistema 3 externo: la cognición artificial generada por un algoritmo.
El riesgo aparece cuando esa tercera fuente se impone por la seguridad de su redacción y no por la calidad de sus argumentos. En esas condiciones, la fluidez verbal de la IA, en este caso, funciona como una señal de autoridad y reduce la disposición del usuario a revisar la respuesta.
La investigación no sostiene que delegar una tarea en la IA sea siempre una decisión irracional. Un sistema con mejor desempeño que una persona puede aportar resultados valiosos en el análisis de grandes volúmenes de datos, la evaluación de riesgos o los cálculos probabilísticos. La conclusión es más concreta: cuanto mayor es la dependencia, más se ata el rendimiento humano a la calidad de la herramienta. Si la IA acierta, el resultado mejora. Si falla, el error se traslada a quien confió en ella.
Leé también: La inteligencia artificial transformará los sistemas de seguridad: qué cambiará y cuáles son los riesgos
Los experimentos también mostraron que el contexto modifica la capacidad para cuestionar al chatbot. Cuando los participantes dispusieron de solo 30 segundos para responder, las correcciones exitosas de una respuesta errónea se redujeron 12 puntos porcentuales frente a la condición de referencia.
El resultado fue distinto cuando los investigadores ofrecieron una pequeña recompensa económica por cada acierto y mostraron una devolución inmediata. En ese escenario, la capacidad para rechazar una sugerencia equivocada de la IA aumentó 19 puntos porcentuales y llegó al 37,1%. La aceptación del razonamiento defectuoso bajó al 57,9%.
Para los autores, las consecuencias visibles de una decisión impulsan un control más cuidadoso. La urgencia produce el efecto opuesto: deja menos tiempo para advertir el conflicto entre la primera impresión y la explicación del sistema.
Los resultados muestran que la respuesta del chatbot no actúa de manera aislada. El tiempo disponible, los incentivos y la confianza previa en la herramienta modifican la disposición del usuario a revisar lo que recibe. Cuanto menor es ese control, mayor es la posibilidad de que un error de la IA termine convertido en una decisión humana.
Leé también: ¿Ventaja o peligro? Ahora la IA de Claude puede responder tus emails sin que le des permiso
Los resultados exponen una vulnerabilidad concreta: una IA no necesita imponer una respuesta para condicionar una decisión. Puede alcanzarle con expresarla de manera clara, inmediata y segura.
Los investigadores proponen que las plataformas hagan visible la incertidumbre, ofrezcan explicaciones que puedan verificarse y adviertan sobre respuestas de baja confianza. También destacan la importancia de la alfabetización digital para que los usuarios conozcan las limitaciones de estos sistemas.
La primera barrera sigue bajo control humano: revisar la lógica, comprobar los datos y acudir a fuentes independientes antes de utilizar una respuesta en una decisión relevante. Un texto convincente puede parecer verdadero. Su tono, por sí solo, no demuestra que lo sea.
Noticia de TN. Consultá la publicación original para conocer sus actualizaciones.
Leer en TN ↗