La IA vs tu médico: por qué una máquina que no sabe dudar y no puede cuidar tu salud
¿Por qué no deberías usar ChatGPT como tu médico? El lado oscuro de la inteligencia y querer complacer
Le preguntas a un chatbot por qué te duele la cabeza y te da una respuesta clara, estructurada y convincente. Suena útil, ¿verdad? El problema es que esa habilidad para sonar convincente es precisamente su mayor defecto cuando se trata de tu salud.
La inteligencia artificial está diseñada para ser buena conversando y para ayudarte. Pero hay una diferencia fundamental: un chatbot es como un asistente personal muy elocuente, entrenado para tener fluidez conversacional, no como un médico entrenado para diagnosticar y tratar enfermedades. Y este desajuste básico, según demuestran estudios recientes, es la razón por la que usar herramientas como ChatGPT o Gemini para un consejo médico requiere una cautela extrema.
El trabajo de un médico no ha cambiado en siglos: reunir síntomas, analizar pruebas, sopesar la evidencia y reducir las posibilidades hasta encontrar la causa más probable. Es un proceso de razonamiento que maneja la incertidumbre. Un estudio lo resume perfectamente: “Los médicos preservan la incertidumbre y refinan sus diagnósticos, mientras que los modelos de lenguaje colapsan prematuramente en una única respuesta”.
Cuando la IA "juega al doctor" y pierde
Esta falla quedó en evidencia en un estudio publicado en JAMA Network Open. En un estudio, se presentaron casos clínicos a 21 modelos de IA diferentes, incluyendo versiones de ChatGPT y Gemini; con información limitada, los modelos de IA proporcionaron un diagnóstico incorrecto en el 80% de las respuestas.
¿Por qué? Porque sacaban conclusiones antes de tiempo. Marc Succi, uno de los autores del estudio, lo explica así: "No lo hicieron bien cuando se les pidió que razonaran a través de datos inciertos y limitados".
Girish Nadkarni, jefe de IA del Mount Sinai Health, profundiza en esta debilidad: “Los humanos tenemos una inteligencia más general. Razonamos para abrirnos paso en situaciones nuevas”. Dicho de otra forma, la IA es buena para conectar los puntos que ya tiene, pero no sabe qué hacer con los que le faltan.
Tan convincente como peligroso
Las consecuencias de esta confianza injustificada son alarmantes. El investigador Nicholas Tiller empezó a hacerle preguntas de salud a varios chatbots y se quedó impactado con los resultados. En su estudio, publicado en BMJ Open, cinco modelos de IA respondieron a 250 preguntas sobre temas donde abunda la desinformación, como si el 5G causa cáncer.
El resultado fue que solo acertaron poco más del 50% de las veces. Peor aún, Tiller estimó que una de cada cinco respuestas incorrectas era directamente peligrosa. "Es muy probable que causara daño a alguien si siguiera el consejo", afirmó.
La vulnerabilidad a la información falsa es profunda. En un experimento, unos investigadores inventaron una condición médica llamada "bixonimania" y llenaron internet con estudios fabricados al respecto; en pocas semanas, los chatbots citaban la condición como si fuera real.
Un estudio en The Lancet confirma que no es un fallo aislado. El chatbot más fiable que probaron trató más del 10% de las afirmaciones inventadas como si fueran ciertas.
El problema: la IA está diseñada para agradar, no para dudar
Una gran parte del problema es que los chatbots proyectan una confianza que oculta su inexactitud. En el estudio de Tiller, de 250 preguntas, solo en dos ocasiones una IA se negó a responder o admitió no saber algo. Esta confianza crea una falsa sensación de credibilidad. El verdadero peligro de la IA no es que mienta, sino que su tendencia a estar siempre de acuerdo con el usuario puede ser profundamente engañosa.
Además, la IA tiene problemas con los matices. Por ejemplo, al preguntar sobre las vacunas de la COVID-19, un modelo presentaba la información como si existiera un debate científico, cuando el consenso es claro. ¿Por qué hace esto? Porque los chatbots están diseñados para ser excesivamente serviciales y complacientes, lo que les lleva a no cuestionar preguntas médicas ilógicas.
Y esta autoridad inmerecida ya está teniendo efecto. Según una investigación del West Health-Gallup Center, una de cada cuatro personas usa chatbots para obtener información de salud. Y un 14% de ellos (unos 14 millones de personas) admiten no haber ido al médico cuando debían por culpa de un consejo que recibieron de una IA.
Entonces, ¿cómo usar la IA de forma segura?
Las empresas como Meta, OpenAI y Anthropic ya están trabajando para mejorar cómo sus modelos gestionan las consultas de salud. Pero mientras tanto, los expertos coinciden en que se necesita más supervisión.
Hasta que eso ocurra, la recomendación es clara: piensa en la IA como un complemento, no como un sustituto de un profesional médico. Tiller lo resume con una analogía perfecta:
“Los chatbots no están diseñados para la salud. Están diseñados para una sola cosa: imitar la fluidez de una conversación. Simplemente son buenos hablando, como un vendedor cuando intentas comprar un coche”.
No necesitas dejar de usar la IA. Solo necesitas usarla bien. Aquí tienes tres ideas prácticas:
- Para entender un término complejo. Pídele que te explique qué es la "metformina" en lenguaje sencillo.
- Para resumir un artículo médico. Dale un estudio largo y pídele las conclusiones principales.
- Para preparar tu consulta. Úsala para organizar tus síntomas y formular las preguntas correctas para tu médico de verdad.
Estos ejemplos muestran cómo la IA puede actuar como un complemento en lugar de un sustituto. De hecho, ya existen aplicaciones diseñadas para este rol, como una IA que ayuda a implementar las recomendaciones de un médico, demostrando un uso más seguro y de apoyo en la gestión de la salud.
La próxima vez que tengas una duda de salud, la clave es preguntarte: ¿necesito un conversador elocuente o un profesional que sabe dudar? Cuidar tu salud es lo más importante.