Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (I)

El Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España, establece un marco estratégico y ético para la integración de la inteligencia artificial (IA) en el ámbito sanitario. El documento funciona como una guía exhaustiva que aborda desde la validación clínica y la protección de datos hasta la responsabilidad legal y los principios deontológicos del médico. Su tesis central defiende una "medicina inteligente con decisiones humanas", subrayando que la tecnología debe actuar como un soporte aumentado y nunca como un sustituto del juicio clínico profesional. A través de decálogos y capítulos técnicos, el texto ofrece garantías fundamentales tanto para facultativos como para pacientes, promoviendo una innovación segura, equitativa y transparente. En última instancia, busca equilibrar la vanguardia algorítmica con el humanismo médico, asegurando que la supervisión humana permanezca en el centro de cada acto asistencial. 

De este manual queremos destacar algunos aspectos básicos y lo haremos en tres post consecutivos, dado su interés.  Comenzamos...

a) ¿Cómo garantiza la IA una medicina más humana? 

La inteligencia artificial (IA) no se plantea en este manual como un sustituto del factor humano en la medicina, sino como una herramienta para potenciarlo bajo el principio rector de "Medicina inteligente, decisiones humanas". La IA garantiza una medicina más humana a través de los siguientes pilares fundamentales: 

• Liberación de tiempo para el cuidado directo. Al asumir tareas administrativas, optimizar la organización y facilitar el análisis de grandes volúmenes de datos complejos, la IA actúa como una "inteligencia aumentada" o copiloto. El objetivo principal de esta integración técnica es liberar tiempo clínico para que el profesional pueda centrarse en el trato directo, el acompañamiento, la empatía y la escucha del paciente. 

• Preservación de la relación médico-paciente. El manual define la relación clínica como un vínculo fiduciario (de confianza) que la tecnología no debe diluir ni convertir en una barrera. Se garantiza de forma explícita que la buena medicina sigue necesitando humanidad y que la IA nunca sustituirá la empatía, la compasión, la escucha ni el juicio clínico del profesional. 

• Dignidad algorítmica. Este concepto establece que los pacientes son personas con dignidad intrínseca e individualidad, y no meros conjuntos de datos o predicciones estadísticas. Por ello, se prohíbe tratar al paciente como un objeto de optimización de flujos o costes, respetando siempre su vulnerabilidad. 

• Supervisión humana permanente (Human-in-the-loop). Para evitar la "automatización ciega", se establece como garantía innegociable que ninguna decisión importante sobre la salud quede únicamente en manos de una máquina. El médico mantiene siempre la "última palabra" y la responsabilidad clínica indelegable, conservando la capacidad real de comprender, revisar, modificar o rechazar cualquier recomendación algorítmica para adaptarla de manera prudente al contexto real de la persona. 

• La compasión como barrera de seguridad. La adopción ética de la IA exige conservar virtudes profesionales clave, destacando la compasión para recordar constantemente que el sufrimiento humano no se puede reducir a variables o datos numéricos. 

En definitiva, la IA contribuye al humanismo médico porque, tal como afirma el manual, "la inteligencia artificial debe ser el instrumento; el cuidado, el fin". 

b) ¿Cuáles son las diez garantías para el paciente? 

El manual establece diez garantías fundamentales para el paciente con el objetivo de asegurar que la incorporación de la inteligencia artificial en la medicina no debilite, sino que refuerce la confianza y la seguridad en la atención médica: 

1. La IA es una ayuda para su médico, no un sustituto. La atención médica sigue basándose de forma primordial en la valoración del profesional médico, quien tiene la responsabilidad de interpretar la situación, integrar la información clínica y tomar la decisión final. 

2. Ninguna decisión importante sobre su salud debe quedar solo en manos de una máquina. Todas las decisiones clínicamente relevantes deben contar siempre con la supervisión de un médico y con una valoración totalmente individualizada de cada caso. 

3. Las herramientas de IA deben haber sido evaluadas antes de utilizarse. No basta con que una tecnología sea novedosa o vanguardista; para poder usarse en el entorno clínico real con pacientes, debe haber demostrado previamente que funciona con seguridad y eficacia. 

4. Su médico debe poder revisar y cuestionar lo que indique la IA. Si la recomendación generada por el algoritmo no encaja o no es adecuada para la situación clínica particular del paciente, el médico tiene la obligación y el derecho de no aplicarla automáticamente. 

5. Sus datos de salud deben estar protegidos (y no compartirlos no es la solución). El uso de herramientas de IA exige la aplicación de medidas muy estrictas de privacidad, seguridad y control de acceso a la información del paciente, desarrolladas bajo un marco jurídico actualizado para toda Europa. 

6. La IA debe funcionar de manera justa. Se debe vigilar activamente que los algoritmos no discriminen ni ofrezcan peores resultados clínicos a las personas por razones de edad, sexo, tipo de enfermedad, discapacidad o cualquier otra circunstancia personal que genere desigualdad. 

7. Tiene derecho a saber cuándo y para qué se usa IA en su atención. La transparencia forma parte de la calidad del cuidado. El paciente debe conocer, con un lenguaje comprensible, qué función exacta cumple la herramienta tecnológica en su proceso de diagnóstico o tratamiento. 

8. Tiene derecho a pedir explicaciones. La tecnología nunca debe ser un obstáculo para la comunicación. El paciente tiene todo el derecho a preguntar sobre el papel de la IA y a recibir respuestas claras y comprensibles por parte de su médico. 

9. Los centros sanitarios deben supervisar estas herramientas de forma continua. La responsabilidad de vigilar la tecnología no recae solo en el médico individual; los hospitales y las organizaciones sanitarias deben monitorizar su funcionamiento, registrar cualquier incidencia y retirar el software si deja de ser seguro o útil. 

10. La buena medicina sigue necesitando humanidad. Aunque la inteligencia artificial aporte un gran valor y capacidad analítica, jamás podrá reemplazar elementos puramente humanos y clínicos como la escucha activa, la empatía, la prudencia y la relación fiduciaria (de confianza) entre el médico y el paciente. 

Estas garantías aseguran que la tecnología se mantenga estrictamente como un medio de soporte, dejando el cuidado humano como el fin definitivo de todo acto médico. 

c) ¿Cuáles son los diez principios para el médico? 

Para complementar las garantías del paciente que acabamos de revisar, el manual establece diez principios éticos y profesionales que el médico debe tener presentes al incorporar sistemas de inteligencia artificial en su práctica clínica diaria: 

1. La IA no sustituye al médico. Aunque la IA expande la capacidad diagnóstica, analítica y organizativa, nunca puede reemplazar el juicio clínico, la responsabilidad deontológica ni el deber de cuidado del profesional. La decisión final sobre cada paciente debe ser humana, prudente y adaptada a su contexto real. 

2. Toda IA clínica exige supervisión humana significativa. La supervisión médica no debe convertirse en un trámite o formalidad automática. El médico debe conservar la capacidad real de comprender, revisar, contrastar, matizar y, en su caso, rechazar las recomendaciones algorítmicas antes de que tengan efectos sobre la salud del paciente. 

3. Ninguna herramienta debe utilizarse sin validación suficiente. Es una exigencia de prudencia y buena praxis no incorporar tecnologías que no hayan demostrado adecuadamente su utilidad, seguridad y pertinencia en el entorno asistencial concreto donde se van a emplear. Se requiere validación local y evaluación de impacto en resultados de salud. 

4. No hay IA segura sin datos de calidad y adecuadamente protegidos. La fiabilidad del algoritmo depende directamente de la calidad, integridad y representatividad de los datos con los que se alimenta. Además, el médico debe preservar la privacidad, limitar accesos, minimizar el uso de datos y reforzar la seguridad para evitar resultados sesgados o injustos. 

5. La equidad debe vigilarse de forma activa. Dado que la IA puede reproducir o amplificar desigualdades históricas, su rendimiento debe evaluarse de forma continua en distintos subgrupos de pacientes. La innovación tecnológica solo es legítima si mejora la atención sin excluir ni perjudicar a las personas más vulnerables. 

6. La ética y la deontología médica deben guiar la implementación de la IA. La deontología no es un freno externo ni un corrector que llega al final del proceso; debe actuar desde el principio como la brújula interna que orienta el desarrollo de la tecnología con prudencia, responsabilidad y sentido humanista. 

7. El paciente tiene derecho a una información clara y comprensible. Cuando la IA tenga una participación relevante en el proceso asistencial, el paciente debe conocer su uso, comprender qué papel cumple y cuáles son sus límites. Esta información debe ser útil y compatible con una relación médico-paciente basada en la confianza. 

8. El médico tiene derecho a garantías profesionales ante la IA. El uso de la tecnología no solo impone obligaciones al profesional, sino que exige que las instituciones le garanticen formación adecuada, condiciones seguras de uso, acceso a información suficiente sobre la herramienta y capacidad real de discrepar del algoritmo cuando lo considere inestable o inadecuado. 

9. La IA debe acelerar la investigación sin comprometer la integridad científica. Su aplicación en la investigación y el análisis de evidencia clínica exige trazabilidad, control de sesgos, supervisión metodológica rigurosa y prevención de prácticas (como la fabricación de datos o citas defectuosas) que comprometan la validez científica. 

10. La trazabilidad, la gobernanza y la formación continua son imprescindibles. La seguridad no recae de forma exclusiva sobre el médico individual. Requiere de las organizaciones sanitarias estructuras de gobernanza, protocolos de monitorización, registro de incidencias, criterios claros de retirada de sistemas deficientes y programas de formación continuada. 

Estos principios garantizan que el profesionalismo médico contemporáneo adopte la tecnología con responsabilidad, manteniendo siempre la primacía del cuidado de la persona. 

d) ¿Qué derecho tienen los pacientes ante el uso médico de IA? 

De acuerdo con el manual, los derechos de los pacientes ante el uso clínico de la inteligencia artificial se enmarcan dentro de los denominados derechos de cuarta generación (vinculados al entorno digital y de datos) y el principio de dignidad algorítmica, asegurando que las personas sigan siendo tratadas como seres humanos individuales y no como meras estadísticas. 

Los derechos específicos de los pacientes se agrupan en las siguientes categorías fundamentales: 

1. Garantías frente a la toma de decisiones automatizadas 

• Derecho a no someterse a decisiones 100% automatizadas. El paciente tiene el derecho a que ninguna decisión clínicamente relevante que produzca efectos significativos en su salud sea tomada de forma exclusiva por un algoritmo. Las decisiones relevantes deben contar siempre con una valoración individualizada y supervisión médica humana real. 

• Derecho a la intervención humana y a rebatir decisiones. Aun cuando se emplee un sistema de IA, el paciente tiene el derecho a obtener una intervención significativa de un profesional de la salud, a expresar su propio punto de vista y a impugnar o rebatir el resultado del algoritmo para corregir posibles decisiones automáticas erróneas. 

2. Transparencia, explicabilidad y consentimiento adaptado 

• Derecho a saber cuándo y para qué se usa la IA. El paciente tiene derecho a conocer, de manera comprensible y clara, qué función exacta cumple la herramienta tecnológica en su proceso de diagnóstico o tratamiento. 

• Derecho a recibir explicaciones clínicas inteligibles. La tecnología no debe obstaculizar la comunicación asistencial. El paciente tiene derecho a recibir de su médico una respuesta clara que no requiera descifrar el código del software, sino que explique de forma inteligible las variables relevantes consideradas por el algoritmo, sus incertidumbres, límites, la existencia de alternativas de segunda opinión y la posibilidad de revisión profesional. 

• Consentimiento informado y significativo. El paciente debe aceptar el uso de sus datos por parte de la IA de forma consciente y voluntaria. Este consentimiento debe estar adaptado para detallar explícitamente el rol de la IA en la toma de decisiones y el margen de intervención que retendrá el médico, evitando formalismos vacíos o el llamado "consentimiento por fatiga" a través de textos interminables. 

3. Derechos de control sobre los datos personales de salud (RGPD) 

• Acceso y rectificación. Derecho a consultar qué datos personales suyos procesa la IA y a exigir la corrección inmediata de cualquier información inexacta o incompleta, previniendo así diagnósticos erróneos basados en datos de entrada defectuosos. 

• Supresión (olvido) y limitación. Derecho a solicitar la eliminación de datos que ya no sean necesarios (conforme a los plazos legales) o a restringir temporalmente su procesamiento algorítmico mientras se valida la licitud del tratamiento. 

• Oposición al uso secundario (Opt-out). El paciente tiene derecho a oponerse al tratamiento de sus datos cuando la IA se use con fines ajenos a su asistencia sanitaria directa. De manera especial, bajo el Espacio Europeo de Datos de Salud (EEDS), cuenta con el derecho a excluirse voluntariamente mediante un procedimiento de opt-out para evitar que su historial clínico se reutilice en la investigación o en el entrenamiento de nuevos algoritmos comerciales. 

• Seguridad. Derecho a que su información sensible sea protegida de manera continua por la institución médica mediante cifrado, control estricto de accesos y medidas técnicas para prevenir fugas o alteraciones. 

4. Derecho a una atención equitativa y humana 

• Protección frente a sesgos y discriminación algorítmica. El paciente tiene derecho a que la IA funcione de manera justa. Se debe vigilar que la herramienta no le ofrezca peores resultados de salud o una priorización injusta por motivos de su sexo, edad, tipo de enfermedad, discapacidad o procedencia étnica. 

• Preservación de la humanidad en la medicina. Ninguna tecnología puede diluir la relación fiduciaria de confianza entre el médico y el enfermo. El paciente conserva el derecho a recibir un cuidado basado en la escucha activa, la empatía, la compasión y la prudencia clínica.