De los diagnósticos erróneos a los sesgos de datos. Exploramos los riesgos de la inteligencia artificial en sanidad, las ventajas clínicas según los expertos y cómo sobrevivir a la desinformación médica en la red.
La inteligencia artificial generativa ha pasado de ser una curiosidad tecnológica a convertirse en el nuevo «médico de guardia» de millones de hogares. Cada vez más ciudadanos consultan a un chatbot antes que a su médico. Podemos decir que la inteligencia artificial ha entrado verdaderamente en la sanidad, pero ¿estamos preparados para sus consecuencias?
Antes de profundizar en los riesgos y beneficios de esta tecnología, queremos conocer tu opinión:
Cuando la IA entra en la consulta medica: 1.277 días de incertidumbre. La historia de Alex
La historia de Alex comenzó cuando él tenía cuatro años. Lo que empezó como un simple dolor de muelas se convirtió en un calvario de tres años. El niño dejó de crecer, empezó a arrastrar los pies al caminar y sufría dolores de cabeza constantes que lo obligaban a tomar analgésicos a diario. Su madre, Courtney, lo llevó a 17 especialistas diferentes: dentistas, pediatras, neurólogos y fisioterapeutas. Ninguno encontraba la causa. Le hicieron pruebas de todo tipo, pero los diagnósticos eran contradictorios o incompletos.
Desesperada, Courtney decidió volcar toda la información de los informes médicos y los resultados de las resonancias en ChatGPT. Le pidió a la inteligencia artificial que analizara los síntomas junto con las notas de los médicos. La IA lanzó una respuesta: Síndrome de Médula Anclada (una afección donde la médula espinal está pegada a los tejidos circundantes).
Courtney no se quedó con la respuesta de la máquina. Llevó la sugerencia de la IA a un nuevo neurocirujano. El médico revisó las imágenes de la resonancia con esa nueva perspectiva y confirmó el diagnóstico. Alex fue operado poco después y hoy está en proceso de recuperación.
Este escenario, cada vez más común, marca el inicio de una nueva era en la sanidad. Ya no hablamos solo del «doctor Google«, donde el usuario buscaba información estática. Ahora nos enfrentamos a una herramienta que genera respuestas personalizadas, persuasivas y, en ocasiones, peligrosamente erróneas. La integración de la IA en la sanidad no es intrínsecamente negativa. Hospitales de referencia en la Comunidad Valenciana, como La Fe o el Hospital Clínico de Valencia, ya emplean algoritmos para optimizar la lectura de radiografías o predecir brotes epidemiológicos. Sin embargo, el riesgo surge cuando la herramienta salta del escritorio del profesional al smartphone del ciudadano sin ningún tipo de filtro médico.
Una herramienta inquietantemente poderosa
El debate no ha hecho más que empezar. Durante la reciente conferencia sobre Las IA del futuro en Museu de les Ciències de Valencia, la experta Silvia Leal dejó una frase que resonó en todo el auditorio:
«La IA generativa calcula la palabra más probable para responderte y además está diseñada para hacerte creer que no hay ninguna posibilidad que se equivoque… es verdad que lleva mecanismos de razonamiento pero sigue trabajando con probabilidad de palabra y eso hace que muchas veces alucine. por eso con la llegada de estas tecnologías es más importante que nunca el espíritu crítico«
Fuente: conferencia «Las IA del futuro», Ciudad de las Artes y las Ciencias
¿Quién es Silvia Leal?
Silvia Leal es Doctora en Sociología y experta en tecnología y transformación digital. También es Asesora de la Comisión Europea en competencias digitales y futuro del trabajo. Ella fue reconocida como una de las diez expertas más influyentes de España en el ámbito tecnológico. Además es autora de libros de referencia y divulgadora.
A diferencia de un médico colegiado, la IA no «entiende» la biología humana; solamente predice la palabra más probable en una secuencia de texto. Este fenómeno, conocido en el sector tecnológico como «alucinaciones«, permite que la máquina invente datos médicos con una autoridad lingüística asombrosa.
Para entender la magnitud de este cambio, hemos dividido esta investigación en cuatro ejes fundamentales:
- El reverso del algoritmo: riesgos, sesgos y falsas certezas de la IA médica;
- Las ventajas reales de la IA en medicina;
- Entrevista al doctor Valter Merighi sobre diagnósticos y futuro clínico de la IA en medicina;
- El incierto camino hacia la medicina del futuro entre la eficiencia de los datos y la ética del error.
Deja un comentario