Cuando la IA sustituye a los doctores: los riesgos para la salud de los ciudadanos

Siempre más personas utilizan chatbots de Inteligencia Artificial para obtener asesoramiento médico. Pero ¿qué sucede cuando la IA no entiende el contexto, oculta sus errores o se convierte en una falsa voz de autoridad?

Estamos tan acostumbrados a obtener respuestas rápidas de los chatbots que ahora los imaginamos como organismos omniscientes. Cada día miles de personas recurren a sistemas de Inteligencia Artificial para pedir asesoramiento. Esto es especialmente común cuando buscan orientación en el ámbito médico. Las preguntas que antes estaban reservadas a los profesionales, como “¿Qué significa este dolor?”, “¿Debería preocuparme?”, ahora se realizan a través de una pantalla. Así que las respuestas son muy rápidas y sin contacto humano. 

La costumbre de pedir diagnósticos de cualquier tipo a chatbots como ChatGPT, Gemini o Perplexity está transformando la relación entre pacientes y tecnología. Acciones que nos parecían absurdas hasta hace unos años ya no lo son. Por ejemplo, sustituir a un psicólogo, adjuntar fotos de heridas o erupciones solicitando los tratamientos o simplemente pedir un diagnóstico presentando los síntomas.

Los riesgos principales para las organizaciones sanitarias no son solamente las respuestas incorrectas, sino también recibir información falsa, diagnósticos incompletos, explicaciones que parecen científicas sin serlo y una confianza excesiva de los usuarios.

La visión de Silvia Leal y el peligro de confiar en la IA

Silvia Leal, una de las máximas expertas mundiales en Inteligencia Artificial, habló de este tema en la conferencia «La IA del futuro», celebrada en el Museo de las Ciencias de Valencia. Ella resaltó cómo el uso de la IA podría aportar numerosos beneficios a la medicina moderna. Una de estas ventajas es la creación de gemelos digitales para verificar los posibles resultados de los tratamientos médicos antes de probarlos en los pacientes. No obstante, Leal enfatizó que los chatbots son sólo máquinas capaces de generar texto, por lo tanto no poseen el conocimiento necesario para reemplazar al personal médico.

Muchos usuarios, sin embargo, creen que un chatbot puede sustituir temporalmente al médico, pero a veces pueden ser engañosos. Varios organismos de investigación han informado de casos de pacientes que confiaron en los consejos automáticos de IA y acabaron retrasando una consulta urgente o interpretando mal sus síntomas. El resultado siempre es el mismo: la ilusión de que un chatbot puede ser un profesional simplemente por lo convincente que suena.

El desafío de Microsoft (MAI-DxO)

En este contexto, Microsoft ha elaborado una Inteligencia Artificial que sería capaz de identificar enfermedades de manera más efectiva y precisa que los profesionales sanitarios humanos. Así se podrían diagnosticar enfermedades con cuatro veces más precisión y a un coste significativamente inferior.

Los investigadores de Microsoft realizaron un estudio observando el trabajo de un equipo de médicos y comparándolo con el de la IA, MAI-DxO. Al realizar este experimento, se dieron cuenta de que MAI-DxO obtuvo mejores resultados que los médicos humanos, alcanzando una precisión del 80%.

Además, Microsoft integró en el sistema una función de «conciencia de costes». La Inteligencia Artificial se destacó por su capacidad de optimizar las rutas de diagnóstico, evitando la prescripción de pruebas superfluas y reduciendo en promedio los gastos de diagnóstico en un 20% en comparación con el enfoque humano. Sin embargo, la compañía ha aclarado que el objetivo no es reemplazar al médico, sino proporcionar un sistema avanzado de soporte a la decisión. Eso podría permitir el acceso a diagnósticos especializados y contener los costes sanitarios. Por lo tanto, la Inteligencia Artificial tiene sin duda un potencial increíble, pero no debe tomarse como una fuente autorizada para diagnosticar y, sobre todo, auto diagnosticarse enfermedades, sino más bien como un sistema de apoyo a la decisión.

La búsqueda de la fiabilidad médica humana

Esta incertidumbre ligada a la eficacia de la Inteligencia Artificial impulsa a los pacientes a buscar online fuentes más autorizadas, humanas y verificadas. Por esta razón, se han desarrollado plataformas donde es posible informarse sobre determinados temas médicos e incluso preguntar directamente a médicos reales. El principio, por lo tanto, es el mismo que el de la IA, pero en este caso la respuesta proviene de un experto que puede responder de manera más fiable.

Entre estas plataformas podemos destacar Doctoralia, que forma parte del grupo internacional Docplanner, plataforma líder en la reserva de servicios sanitarios. Este sistema es muy eficaz porque responde directamente a la necesidad de fiabilidad y validación humana, de la que carece la Inteligencia Artificial. Las respuestas en el portal son proporcionadas sólo por usuarios verificados de Doctoralia, de ahí la gran confianza de los pacientes. A los propios especialistas les gusta usarla porque les permite fortalecer su propia imagen y autoridad. Además, fideliza a los pacientes incluso antes de su consulta en el centro médico: es la unión perfecta entre tecnología, fiabilidad y el contacto humano con el especialista.

Los temores alrededor de la IA

Actualmente hay un debate entre quienes confían en la Inteligencia Artificial y quienes siguen prefiriendo la interacción humana y verificada. Entre los principales temores emergen la fiabilidad de la diagnosis, la potencial sustitución del personal médico, la creciente dependencia tecnológica y la protección de los datos sensibles.

La misma Silvia Leal afirma que la IA puede también volverse contra nosotros, de hecho ella ha trabajado con Norman, la primera Inteligencia Artificial psicópata, y nos ha contado que es necesario tener cuidado, gestionar con inteligencia y aprender a poner limites a las IA.

En conclusión, el debate entorno la IA en campo médico se centra en un dilema muy complicado entre el avance tecnológico y los límites éticos. Si bien sistemas como MAI-DxO demuestran un increíble potencial predictivo, de todos modos los pacientes prefieren plataformas como Doctoralia.

Robert Shmerling, miembro del comité consultivo editorial de Harvard Health Publishing, cumplió una investigación donde compara las respuestas de ChatGPT con las de médicos humanos a preguntas de pacientes. El resultado del estudio revela que parece prematuro confiar en las respuestas de la IA sin una prueba sólida de su precisión y sin una efectiva supervisión por parte de los operadores sanitarios. No obstante, la Inteligencia Artificial puede funcionar excepcionalmente bien como herramienta de colaboración, sirviendo de apoyo avanzado para la toma de decisiones clínicas y liberando tiempo al personal médico para que se concentre en la interacción y la empatía con el paciente.

El avance de la Inteligencia Artificial sigue cada día y se expande hacia la predicción y la medicina personalizada. Sólo el tiempo nos podrá decir cuánto lejos llegará esta tecnología y como redefinirá el rol del medico.