El reverso del algoritmo: riesgos, sesgos y falsas certezas de la IA médica

La integración de la inteligencia artificial en el ecosistema sanitario trasciende la mera innovación tecnológica para convertirse en un desafío de seguridad pública.

Riesgo de la IA médica: la falsa infalibilidad de la máquina

En el momento en que el código perpetúa sesgos o fracasa en su adaptación al terreno, el algoritmo deja de ser una solución para transformarse en una fuente de incertidumbre y peligro. El riesgo de la IA médica se sitúa en la capacidad de transformar probabilidades en verdades absolutas. El fenómeno del «doctor Google» ha dado paso al autodiagnóstico algorítmico. Este es un modelo cuya aparente precisión solo oculta una peligrosa falta de contexto. Esta deriva olvida que la relación médico-paciente es un vínculo humano que la lógica algorítmica no puede replicar.

El caso de Babylon Health marcó un punto de inflexión en la ética médica digital. Su aplicación «GP at Hand», utilizada por el sistema de salud británico (NHS), presumía de una capacidad diagnóstica equiparable a la humana. Sin embargo, investigaciones posteriores y denuncias de médicos como el oncólogo David Watkins revelaron fallos críticos. El sistema confundía síntomas de un infarto con ataques de ansiedad en mujeres o con gastritis en hombres. La IA priorizaba la eficiencia estadística sobre la seguridad clínica, demostrando que superar un examen teórico no equivale a la complejidad de un triaje real.

La investigación crítica de la UPV

Más allá de los sesgos sociales, existe un riesgo técnico: la «fragilidad geográfica» de la IA. Investigadores del VRAIN (Valencian Research Institute for Artificial Intelligence) de la Universidad Politécnica de Valencia (UPV) han liderado estudios que demuestran que la inteligencia artificial no es una solución. El equipo de la UPV, en colaboración con el Hospital La Fe, identificó que algoritmos de detección de cáncer de mama entrenados en EE. UU. perdían su precisión al aplicarse en Valencia, debido al llamado «dataset shift» (desplazamiento de datos).

Los mamógrafos locales generan imágenes con resoluciones y texturas específicas que la IA externa no reconoce. Como resultado, el sistema disparaba las alarmas innecesariamente. Así se generaban un alto número de falsos positivos. Este hallazgo ha impulsado el proyecto DeepHealth, liderado por la UPV. El proyecto busca entrenar a las máquinas con datos propios para garantizar que la IA comprenda la realidad técnica y biológica de los pacientes locales, evitando biopsias y cirugías innecesarias.

Problemas de privacidad

La eficacia de la inteligencia artificial depende de los big data, lo que convierte la privacidad en un activo vulnerable. El ciberataque al Hospital Clínic de Barcelona en 2023 marcó un punto de inflexión sobre la vulnerabilidad de los datos sanitarios. El secuestro de información por la banda RansomHouse forzó un «viaje en el tiempo» analógico, paralizando 11.000 consultas y obligando al personal a regresar al papel y bolígrafo. Más allá del caos asistencial, el incidente subraya un riesgo ético crítico: la fragilidad de los historiales clínicos, que son el combustible de la IA, ante el chantaje digital y la exposición de la privacidad del paciente.

En España, la Agencia Española de Protección de Datos (AEPD) mantiene una vigilancia estricta, advirtiendo que el uso de datos sanitarios para entrenar modelos de IA debe garantizar el anonimato total, algo que técnicamente es cada vez más difícil de cumplir ante el avance de las técnicas de re-identificación.

El dilema de la responsabilidad algorítmica

¿Quién responde cuando el código falla? Si un algoritmo recomienda un tratamiento erróneo y el médico lo suscribe, la línea de responsabilidad se desdibuja. Este vacío en la responsabilidad algorítmica es la mayor barrera para la seguridad jurídica.

La Organización Mundial de la Salud (OMS) es tajante: la responsabilidad debe ser siempre humana. Sin embargo, en un sistema saturado, el riesgo es la «automatización de la complacencia», donde el médico deja de cuestionar a la máquina por falta de tiempo o comprensión técnica, quedando desprotegido ante posibles demandas por negligencia derivadas de un error de software inescrutable.

El imperativo de la mirada humana

En definitiva, la inteligencia artificial en el ámbito sanitario es una herramienta de soporte que no debe sustituir el diagnóstico humano. El desafío prioritario para las instituciones es la fiscalización de estos sistemas para asegurar su transparencia y fiabilidad técnica. La innovación médica solo será efectiva si garantiza la equidad algorítmica y la protección de datos personales, manteniendo el juicio clínico como el protocolo definitivo de seguridad y validación de resultados.