Sanidad pone límites al uso de la inteligencia artificial en la consulta médica

La inteligencia artificial no es nueva en medicina. Uno de los primeros sistemas desarrollados con fines clínicos fue MYCIN, creado en la Universidad de Stanford (EE. UU.) a principios de los años setenta para diagnosticar infecciones bacterianas y recomendar tratamientos con antibióticos. Nunca llegó a emplearse con pacientes reales por sus limitaciones técnicas y legales, pero demostró algo importante: en tareas muy concretas, un algoritmo podía alcanzar resultados comparables e incluso superiores a los de un médico.

Medio siglo después, la mayor capacidad de cálculo, el acceso a enormes volúmenes de datos, los avances en aprendizaje profundo y la llegada de la IA generativa han situado a esta tecnología en el centro de las inversiones de gobiernos y empresas. Hoy, dos de cada tres organizaciones del sector salud ya utilizan activamente la IA, siete de cada 10 profesionales sanitarios creen que su uso reducirá los ingresos hospitalarios en el futuro y ocho de cada 10, que podrá salvar vidas al permitir intervenciones más tempranas.

En este contexto, el Ministerio de Sanidad ha publicado una guía para trasladar a la práctica asistencial las exigencias del Reglamento Europeo de IA, el Reglamento General de Protección de Datos (RGPD) y la normativa sobre productos sanitarios. Su mensaje es claro: la tecnología debe funcionar siempre como una herramienta de apoyo, nunca como sustituto del criterio clínico.

Estas son sus principales directrices:

La IA no puede decidir por sí sola el diagnóstico ni el tratamiento de un paciente. La última palabra y la responsabilidad siguen recayendo en el profesional sanitario.

Cualquier recomendación de IA que afecte al diagnóstico o al tratamiento debe ser revisada y validada por un sanitario antes de aplicarla. El profesional debe poder entender, cuestionar y, si lo considera necesario, anular la sugerencia del algoritmo.

No se pueden introducir historias clínicas, imágenes médicas ni ninguna información que permita identificar al paciente en plataformas de IA no autorizadas para uso sanitario (por ejemplo, versiones públicas de ChatGPT). Solo se admite información debidamente anonimizada y, preferentemente, en entornos aprobados por la institución sanitaria.

Se prohíbe el envío de capturas o resultados generados por IA que contengan datos identificativos de pacientes a través de canales no seguros como WhatsApp o el correo electrónico. Deben emplearse solo los canales internos cifrados autorizados por la institución sanitaria.

La guía reconoce que la IA puede actuar con mayor autonomía en tareas administrativas que no impliquen una decisión directa sobre la salud: organización de agendas, priorización de citas, generación de resúmenes automáticos del historial o alertas de riesgo, siempre bajo supervisión y sin que ello suponga una decisión clínica automatizada.

La guía también explica cómo se aplican estas recomendaciones en el día a día de la asistencia: qué deben hacer los profesionales cuando utilizan sistemas de IA y cómo integrarlos en las consultas de forma segura.

El profesional debe revisar siempre cualquier informe generado por un sistema de IA antes de que tenga consecuencias clínicas. Si la herramienta detecta una posible lesión que el médico no ha visto, se activa un protocolo: comprobar la alerta revisando las imágenes originales, contrastarla con el historial del paciente y, si persiste la duda, pedir una segunda opinión o programar un seguimiento más estrecho.

La guía también marca un límite explícito: los modelos generalistas como ChatGPT no pueden utilizarse de forma directa para tomar decisiones críticas. Su falta de precisión médica, la opacidad de su funcionamiento y el riesgo de generar alucinaciones —información inventada con apariencia científica— los hacen inadecuados para la práctica clínica.

Los chatbots con finalidad diagnóstica o terapéutica deben estar certificados como producto sanitario con marcado CE. La guía distingue con claridad entre los chatbots generalistas —los que usamos en el día a día— y los clínicos especializados, entrenados solo con fuentes sanitarias verificadas y obligados a indicar de forma transparente de dónde sale su información y cuándo fue actualizada.

En el triaje de Urgencias, los algoritmos de IA solo pueden actuar como apoyo. Deben estar evaluados y autorizados para ese uso, mostrar criterios comprensibles y permitir que el personal de enfermería o médico corrija la clasificación en cualquier momento.

Si ocurre un efecto adverso en una atención donde interviene un sistema de IA, la responsabilidad recae en el profesional sanitario que lo ha utilizado o en su empleador (centro, servicio de salud, administración). La razón es sencilla: estos sistemas no tienen personalidad jurídica ni autonomía real; son herramientas tecnológicas sin intereses propios.

Cuando el problema se debe a un defecto del producto, un fallo de diseño o datos incorrectos de origen, los fabricantes y proveedores también pueden verse implicados, según el Reglamento de Productos Sanitarios y la normativa de responsabilidad civil en IA.

Las sanciones por incumplir estas obligaciones son las siguientes:

• La falta de supervisión adecuada puede acarrear multas de hasta 15 millones de euros o el 3 % de la facturación de la empresa; lo que sea mayor.
• Las infracciones más graves, como usar sistemas de IA prohibidos, pueden suponer multas de hasta 35 millones de euros o el 7 % de la facturación de la empresa.

Si un hospital o un profesional utiliza IA para decidir sobre un diagnóstico, un tratamiento o cualquier aspecto relevante de la salud sin supervisión humana o sin una base jurídica válida —como el consentimiento del paciente— se expone a sanciones de hasta 20 millones de euros o el 4 % de la facturación de la empresa; lo que sea mayor.