Inteligencia artificial y ética en publicaciones científicas

El Dr. Ángel Hernández Merino, editor durante muchos años de la Revista de Pediatría de Atención Primaria un interesante artículo de actualización en relación con un tema de tanto interés como el de la inteligencia artificial (IA) y la ética de las publicaciones científicas. Cabe escudriñar los buenos mensajes de este artículo 

1. Marco normativo y transformación de la edición médica por la IA 

El crecimiento exponencial de la inteligencia artificial (IA) y de los modelos de lenguaje de gran tamaño (LLM) está transformando de manera radical el ecosistema de la publicación científica. Esta evolución tecnológica posee una importancia estratégica innegable para la optimización de procesos en biomedicina; sin embargo, introduce incertidumbres críticas que exigen la implantación imperiosa de marcos éticos estrictos que garanticen la preservación de la integridad de la literatura médica y la confianza pública en la ciencia. 

La integración de la IA en la redacción y edición científica presenta una complejidad analítica que debe abordarse bajo tres vectores de riesgo fundamentales: 

- Riesgo de veracidad: la capacidad de los modelos generativos para elaborar textos formalmente plausibles conlleva el peligro latente de introducir información errónea, inexacta o carente de fundamentación empírica real. 

- Propensión al sesgo: al nutrirse de grandes volúmenes de datos preexistentes, las herramientas de IA corren el riesgo sistemático de perpetuar y amplificar sesgos implícitos en la literatura previa. 

- Vulneración de la confidencialidad: la introducción no regulada de datos no publicados en plataformas automatizadas expone la propiedad intelectual y los datos sensibles a brechas de privacidad inadmisibles. 

Ante este escenario, organismos y comités de referencia internacional como el Comité Internacional de Editores de Revistas Médicas (ICMJE), junto con las principales publicaciones médicas del mundo, han establecido la obligación de fijar políticas explícitas y normativas claras que regulen el uso de la IA en la comunicación científica. 

2. Estatus de autoría y requisitos de transparencia para autores 

La atribución de autoría constituye el pilar central sobre el que se asienta la responsabilidad jurídica y ética en la investigación biomédica. Un autor no solo recibe el crédito académico por un hallazgo, sino que asume públicamente la responsabilidad de responder por la integridad, validez y veracidad de la totalidad del trabajo. La irrupción de la IA generativa desafía esta noción tradicional al ser capaz de estructurar contenidos complejos, lo que exige reafirmar los principios éticos fundamentales. 

- Estatus de autoría de la IA. Ningún sistema de IA, modelo de lenguaje o plataforma automatizada puede ser considerado autor o coautor de una publicación científica. Esta exclusión categórica se fundamenta en su incapacidad jurídica y ética para asumir responsabilidades legales, garantizar la autenticidad del contenido o firmar las declaraciones obligatorias sobre conflictos de interés y derechos de propiedad intelectual que la comunidad médica exige a los investigadores humanos. 

- Mandato de transparencia. Los autores que empleen herramientas de IA en cualquier fase del desarrollo de su investigación o en la preparación del manuscrito están estrictamente obligados a declarar su uso de forma explícita y transparente. Esta declaración debe detallar los siguientes aspectos: 1) Herramienta o plataforma utilizada: identificación precisa del software o modelo de inteligencia artificial empleado, incluyendo el desarrollador; 2) Versión específica: registro exacto de la versión utilizada para asegurar la trazabilidad y la reproducibilidad técnica; 3) Propósito concreto: explicación detallada de la finalidad específica con la que se aplicó la herramienta en el estudio o en la elaboración del texto. 

3. Delimitación operativa: usos permitidos vs. sos prohibidos de la IA 

Para salvaguardar la integridad de la literatura médica, es fundamental establecer una clara distinción entre el soporte técnico o lingüístico legítimo y aquellas prácticas fraudulentas que vulneran de forma directa los principios éticos del método científico. El uso de la tecnología debe limitarse a mejorar la claridad de la comunicación sin suplantar el juicio reflexivo ni la autoría intelectual humana. 

- Asistencia lingüística y corrección gramatical. Permitido. Aceptado para mejorar la fluidez y la precisión gramatical de la redacción, siempre que se realice bajo la supervisión humana continua y estricta de los autores. 

- Simulación de datos. Prohibido. Constituye una falta grave contra la integridad científica por manipulación y alteración intencionada de la evidencia empírica. 

- Invención de pacientes o casos clínicos. Prohibido. Práctica inaceptable de fabricación de información médica y generación de evidencia clínica falaz. 

- Redacción automatizada de la sección de Discusión. Prohibido. Suplanta el juicio analítico, la interpretación crítica de los resultados y el pensamiento reflexivo que corresponden en exclusiva a los investigadores. 

- Generación de plagio o fabricación de información. Prohibido. Atenta directamente contra los principios de originalidad, veracidad y autenticidad en los que se fundamenta el conocimiento científico. 

4. Preservación de la confidencialidad en la revisión por pares y gestión editorial 

El proceso de revisión por pares (peer review) y la gestión editorial descansan sobre la confianza mutua y la custodia rigurosa del material sometido a evaluación. Editores y revisores asumen la responsabilidad ética e irrenunciable de proteger la confidencialidad, los derechos de autor y los datos no publicados de los manuscritos que se les confían. Por tanto, queda estrictamente prohibido cargar manuscritos, resúmenes o datos no publicados en plataformas de IA públicas o herramientas no controladas, a fin de evitar la vulneración de los derechos de propiedad intelectual y la divulgación no autorizada de información confidencial a terceros. 

La utilización de herramientas de IA durante la evaluación editorial o el proceso de arbitraje solo será admisible de forma excepcional si se cumplen simultáneamente dos condiciones indispensables: autorización explícita otorgada por los autores del manuscrito y garantía absoluta de un entorno tecnológico controlado que asegure la confidencialidad e inviolabilidad de los datos. 

El estricto cumplimiento de estas salvaguardas durante el arbitraje editorial conduce a una reflexión sobre el rol de la tecnología frente al criterio profesional en la toma de decisiones finales. 

5. La responsabilidad humana ineludible y el futuro de la integridad científica 

Frente al avance del texto generado por IA, se han desarrollado herramientas de detección automática destinadas a identificar contenidos sintetizados por algoritmos. Sin embargo, debido a la rápida evolución tecnológica de estos modelos, los detectores automáticos son insuficientes por sí solos y presentan limitaciones técnicas estructurales. Por ello, la supervisión humana continua resulta insustituible para prevenir el sesgo, el plagio o la fabricación de datos en la literatura médica. 

Como se desprende de las directrices adoptadas por los principales comités y revistas médicas internacionales, la IA debe ser considerada únicamente como un instrumento auxiliar. La responsabilidad ética final, intransferible y última de velar por la validez, veracidad e integridad del conocimiento científico recae exclusivamente en los actores humanos del sistema: 

- Autores: asumen la responsabilidad ética y legal directa sobre la veracidad, originalidad, rigor metodológico e integridad de la totalidad de los datos y conclusiones presentadas en sus trabajos. 

- Revisores: aportan un juicio crítico independiente y fundamentado, custodiando el secreto profesional de la información no publicada sin delegar la evaluación en sistemas automatizados que pongan en riesgo la confidencialidad. 

- Editores: velan con máxima autoridad por la aplicación rigurosa de las políticas éticas y normativas de la publicación, garantizando que solo el conocimiento debidamente verificado y transparente sea incorporado al registro científico oficial.

Todo un camino por recorrer...

Doce herramientas alrededor de la docencia universitaria

El entorno de la docencia universitaria demanda soluciones tecnológicas específicas debido a la carga de investigación, diseño curricular avanzado y evaluación masiva. El ecosistema de herramientas digitales para profesores universitarios se divide en las siguientes soluciones prácticas según la tarea (muchas asociadas a la inteligencia artificial): 

1. Planificación curricular, diseño de cursos y evaluación 

• Magic School AI. Una de las suites más completas. Ofrece más de 60 generadores para estructurar planes de estudio universitarios, redactar rúbricas de evaluación detalladas y adaptar materiales de clase. 

• EduAide AI. Destaca en la creación de recursos didácticos personalizados utilizando analítica predictiva, ideal para diseñar guías de estudio y planes de unidades temáticas profundas. 

• Diffit. Excelente para tomar un artículo científico complejo o un capítulo de libro y adaptar automáticamente el nivel de lectura, generando resúmenes, vocabulario clave y preguntas de comprensión alineadas. 

• SyllabusAI. Redacta la guía docente completa: competencias, resultados de aprendizaje, contenidos y plan de evaluación alineados entre sí. 

• ExamForge. Exámenes ajustados a los contenidos de la asignatura, con exportación a PDF. 

2. Gestión de literatura científica e investigación 

• Gemini Notebook. Desarrollado por Google, te permite subir tus propios documentos (proyectos de investigación, PDFs, notas) para convertirlos en un espacio de trabajo privado donde la IA solo responde basándose en tus fuentes, ideal para sintetizar marcos teóricos o bibliografía de cátedra. Una herramienta con muchas posibilidades. 

• ResearchRabbit. El "Spotify de los papers". Mapea redes de co-citaciones y autores, facilitando al docente la actualización de las lecturas obligatorias del programa académico. Se integra de forma directa con gestores bibliográficos como Zotero. 

• Perplexity AI. A diferencia de los buscadores tradicionales, funciona como un motor de respuestas conversacionales que adjunta citas académicas verificables a cada afirmación, facilitando búsquedas rápidas con rigor científico. Con menos “alucinaciones” que otros recursos. 

3. Evaluación eficiente y detección de plagio 

• Gradescope. Una herramienta indispensable para clases masivas. Permite escanear exámenes en papel o digitales y calificarlos agrupando respuestas similares mediante IA, reduciendo el tiempo de corrección a la mitad y garantizando criterios homogéneos de evaluación. 

• Turnitin. El estándar universitario para proteger la integridad académica. Más allá de su tradicional motor de coincidencias de texto, sus algoritmos actuales incluyen módulos especializados en la detección de escritura generada por Inteligencia Artificial. 

4. Creación de contenido y presentaciones 

• Gamma App / Slidesgo. Ideales para agilizar las clases magistrales. Crean esquemas interactivos, páginas web didácticas y presentaciones visuales completas a partir de un texto base o una temática en lenguaje natural. 

• Genially. Permite la creación de infografías, mapas conceptuales y contenidos interactivos que se integran perfectamente con plataformas de gestión del aprendizaje (LMS) universitarias como Moodle o Blackboard.

Evolución histórica de la computación y el surgimiento de la era digital

Esta es una síntesis sobre la fascinante evolución histórica de las computadoras, desde herramientas primitivas de conteo como el ábaco hasta la era moderna de internet, los teléfonos inteligentes y la inteligencia artificial. He aquí algunas etapas clave, en 10 pasos… 

1. El cálculo como extensión del pensamiento humano 

La historia de la computación no debe entenderse meramente como una sucesión de dispositivos cada vez más veloces, sino como la infraestructura lógica de una ambición humana fundamental: la potenciación de la mente. Desde la perspectiva de la arquitectura de sistemas, cada hito tecnológico representa un esfuerzo por externalizar el procesamiento de información, permitiendo que la humanidad trascienda sus limitaciones biológicas para resolver problemas de complejidad creciente y automatizar tareas que facilitan la existencia. 

En sus orígenes más primitivos, el procesamiento de datos se limitaba a extensiones físicas directas: el uso de los dedos, piedras y muescas en madera para registrar ciclos agrícolas y transacciones comerciales. Sin embargo, el surgimiento del Ábaco marcó el primer gran salto en la ingeniería de la información. Este marco con cuentas móviles permitió una eficiencia en el cálculo que superaba con creces el conteo manual, estableciendo el concepto de que una herramienta externa puede procesar datos de forma sistemática. Esta necesidad de precisión técnica en la antigüedad sembró la semilla que, durante el siglo XVII, germinaría en el desarrollo de la ingeniería mecánica aplicada al cálculo. 

2. La era mecánica: de la Pascalina al Motor Analítico 

El siglo XVII inauguró una transición estratégica donde la herramienta manual fue reemplazada por máquinas compuestas por complejos sistemas de engranajes y ruedas. Este cambio de paradigma consolidó la creencia de que el razonamiento lógico-matemático podía delegarse en mecanismos físicos, eliminando la falibilidad humana del proceso. 

En esta etapa, Blaise Pascal desarrolló la Pascalina, un calculador mecánico que utilizaba ruedas dentadas para realizar adiciones y sustracciones. Posteriormente, Gottfried Wilhelm Leibniz perfeccionó este diseño arquitectónico al crear una máquina capaz de ejecutar las cuatro operaciones aritméticas básicas, demostrando que la lógica mecánica podía imitar el pensamiento deductivo. No obstante, la figura central de esta era es Charles Babbage, quien diseñó el Motor de Diferencias específicamente para automatizar la creación de tablas matemáticas utilizadas en navegación y ciencia, reduciendo los errores críticos de los cálculos manuales. Su visión más ambiciosa, el Motor Analítico, introdujo por primera vez conceptos de arquitectura moderna: memoria, una unidad de procesamiento y el uso de tarjetas perforadas para recibir instrucciones. Fue su colaboradora, Ada Lovelace, quien formuló la síntesis más profunda de la época al comprender que estas máquinas no solo procesaban números, sino símbolos e ideas. Al escribir el primer algoritmo para el motor de Babbage, Ada Lovelace anticipó la naturaleza programable de la computación, estableciendo que el hardware requiere de una lógica instruccional para cobrar propósito. 

3. Procesamiento de datos y la presión de la necesidad social 

La evolución tecnológica rara vez ocurre en el vacío; a menudo es una respuesta a las presiones de la complejidad social. Hacia finales del siglo XIX, el crecimiento demográfico y la expansión de los negocios modernos exigieron una transición del cálculo individual al procesamiento masivo de datos gubernamentales y corporativos. 

Esta necesidad se cristalizó en la innovación de Joseph Marie Jacquard, cuyo telar automatizado utilizaba tarjetas perforadas para controlar patrones textiles, introduciendo el concepto de "instrucciones almacenadas" en un entorno industrial. Esta misma lógica fue adoptada por Herman Hollerith para enfrentar una crisis logística: el censo de 1880 en Estados Unidos, cuya tabulación manual amenazaba con demorar años en completarse. La máquina tabuladora de Hollerith, capaz de leer agujeros en tarjetas para organizar información masiva, no solo salvó el proceso censal, sino que sentó las bases para la creación de IBM. Con esto, la computación dejó de ser una curiosidad científica para convertirse en una infraestructura crítica para el estado y la gran empresa. 

4. El salto electrónico y el nacimiento de la computación moderna 

La Segunda Guerra Mundial operó como un catalizador disruptivo, forzando la sustitución de las máquinas electromecánicas basadas en relés —cuyos interruptores físicos eran lentos y propensos al desgaste— por sistemas electrónicos de estado sólido basados en el vacío. 

Mientras que la Harvard Mark I representaba la cúspide de la ingeniería electromecánica masiva, la computadora británica Colossus marcó la verdadera transición hacia la era electrónica al emplear tubos de vacío. Estos componentes actuaban como interruptores de alta velocidad sin partes móviles, permitiendo un procesamiento de datos exponencialmente más rápido. En este contexto, el genio teórico de Alan Turing resultó fundamental; más allá de su labor descifrando los códigos de la máquina Enigma, Turing formuló la idea de una "máquina teórica" capaz de resolver problemas mediante instrucciones paso a paso, estableciendo los pilares de la ciencia de la computación. Finalmente, la ENIAC surgió como la primera computadora electrónica de propósito general, capaz de realizar en segundos lo que a un humano le tomaba días. Sin embargo, su arquitectura era aún rudimentaria: ocupaba habitaciones enteras, generaba un calor masivo y su programación era un proceso de "trabajo físico" que requería el recableado manual de sus componentes. 

5. La arquitectura Von Neumann y el concepto de Programa Almacenado 

Para superar las ineficiencias de la programación física, fue necesaria una revolución en la arquitectura lógica del sistema. El desarrollo del "concepto de programa almacenado" permitió la separación definitiva entre el hardware y el software, otorgando a las máquinas una flexibilidad sin precedentes para realizar múltiples tareas sin alteraciones físicas. 

El científico John von Neumann describió este diseño, conocido como la Arquitectura Von Neumann, que estructuró los sistemas en cuatro componentes críticos que persisten hasta hoy: memoria (para almacenar tanto datos como instrucciones), unidad de procesamiento, entrada (input) y salida (output). Esta "liberación del software" permitió el surgimiento de máquinas comerciales como la UNIVAC, que trasladó la potencia de procesamiento de los laboratorios militares a los departamentos gubernamentales y las juntas directivas de las corporaciones, estandarizando la computación como una herramienta de gestión pública y privada. 

6. La Revolución del Silicio: transistores y microprocesadores 

En 1947, la invención del transistor en Bell Labs alteró el curso de la historia tecnológica al reemplazar los frágiles tubos de vacío por dispositivos de estado sólido. A diferencia de sus predecesores, los transistores eran pequeños, fiables y eficientes, permitiendo que las computadoras realizaran trillones de acciones de conmutación electrónica sin el calor o el espacio requerido anteriormente. 

Esta miniaturización alcanzó su cénit con el Microprocesador, que integró la capacidad de procesamiento completa en un solo chip de silicio. Bajo esta nueva arquitectura, se consolidó el axioma de que, sin software, una computadora es solo un conjunto de partes electrónicas. El desarrollo de lenguajes de alto nivel como FORTRAN, COBOL, BASIC y C, junto con los primeros Sistemas Operativos, dotó de alma a este nuevo hardware. Esta potencia concentrada fue el habilitador físico que hizo inevitable el surgimiento de la computación personal, exigiendo una nueva interfaz que permitiera al ciudadano común interactuar con la máquina. 

7. La computadora personal y la interfaz gráfica (GUI) 

La computación personal transformó la tecnología de un recurso centralizado en grandes instituciones a una herramienta de empoderamiento individual. Empresas como Apple (Apple II, Macintosh) e IBM (IBM PC) lideraron la estandarización de la PC, llevando la oficina y el centro de aprendizaje al escritorio del hogar. 

El hito fundamental en esta democratización fue la Interfaz Gráfica de Usuario (GUI). Al pasar de oscuros comandos de texto a un entorno visual de iconos, ventanas y menús controlados por un ratón, el uso de la computadora dejó de requerir conocimientos técnicos profundos. Esta revolución de la usabilidad fue acompañada por un salto en la productividad mediante software como los procesadores de texto y las hojas de cálculo. Programas como VisiCalc, Lotus 123 y Microsoft Excel permitieron a las empresas automatizar cálculos complejos de manera instantánea, superando definitivamente la era de la máquina de escribir y el cálculo manual. 

8. La Era de la Hiperconectividad: Internet, Web y Nube 

Una vez que las computadoras poblaron los escritorios, el siguiente desafío arquitectónico fue su interconexión. La transición de máquinas aisladas a una red global representó un cambio sísmico en el acceso a la información y la comunicación humana. 

A partir de los cimientos de ARPANET, surgió la World Wide Web como el sistema que facilitó el uso de internet para el público general mediante enlaces y navegadores. En sus inicios durante la década de los 90, esta conectividad estaba limitada por la velocidad de las líneas telefónicas mediante conexiones dial-up, pero sentó las bases para el comercio electrónico y el acceso universal al conocimiento. Hoy, esta evolución ha culminado en la Computación en la Nube, donde el almacenamiento y el procesamiento no residen en el dispositivo local, sino en infraestructuras remotas que permiten el acceso ubicuo a los datos, generando los volúmenes de información masiva (Big Data) necesarios para el desarrollo de la inteligencia artificial. 

9. La frontera actual: Smartphones, Big Data e Inteligencia Artificial (IA) 

En la actualidad, nos encontramos en la era de la computación ubicua. El Smartphone se ha convertido en la computadora definitiva, una herramienta de bolsillo que integra cámaras, sensores y acceso global a través de aplicaciones específicas. Sin embargo, la mayor transformación ocurre de forma invisible mediante la Computación Embebida (Embedded Computing), donde procesadores ocultos gestionan desde cajeros automáticos (ATM) y automóviles hasta electrodomésticos y sistemas industriales. 

Este ecosistema hiperconectado, conocido como el Internet de las Cosas (IoT), alimenta a la Inteligencia Artificial (IA), que hoy realiza tareas de diagnóstico médico, traducción y análisis de datos que antes eran exclusivas del intelecto humano. Mientras nos asomamos al horizonte de la Computación Cuántica, que promete resolver problemas inalcanzables para los sistemas binarios tradicionales, la ciberseguridad y la privacidad de los datos se han vuelto los pilares críticos de nuestra infraestructura digital. 

10. Conclusión: el futuro de la relación humano-máquina 

Desde el ábaco hasta la inteligencia artificial generativa, la trayectoria de la computación es un testimonio de la imaginación humana aplicada a la resolución estratégica de problemas. La historia demuestra que cada avance —desde el reemplazo de los relés electromecánicos por silicio hasta la separación de hardware y software en la arquitectura Von Neumann— ha buscado reducir la fricción entre la idea y la ejecución. 

Al cerrar esta crónica, queda claro que las herramientas que hemos construido son ahora el espejo de nuestra capacidad creativa. El futuro de esta relación plantea una pregunta fundamental: ¿Cómo continuará la IA moldeando la educación y el trabajo en las próximas décadas? La respuesta no reside en la potencia de nuestros procesadores, sino en nuestra responsabilidad y propósito al utilizar esta tecnología para construir un futuro donde la máquina siga siendo, en esencia, una extensión de la visión humana.

Cabe complementar este viaje con el ya post que publicamos hace mese sobre la evolución de internet del código militar de ARPANET a la Inteligencia Artificial. 

Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (y III)

Continuamos con el análisis de cuestiones clave que nos proporciona el Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España. En la parte I hemos analizado algunas preguntas clave (a, b, c y d) en la parte II otros apartados(e, f, g, h) y ahora continuamos con otras más. 

i) ¿Qué obligaciones tienen los hospitales como desplegadores? 

Bajo el marco de la Ley de Inteligencia Artificial de la Unión Europea (AI Act), los hospitales y centros sanitarios que incorporan sistemas de IA en su actividad profesional asumen el rol legal de desplegadores (deployers). Esto implica que la implantación de la IA en el ámbito clínico no es un espacio neutro, sino que está estrictamente configurada por un catálogo de deberes jurídicos y organizativos. 

De acuerdo con el artículo 26 del AI Act, estas obligaciones se dividen en tres grandes bloques: 

1. Uso conforme y medidas organizativas internas 

• Garantizar el uso conforme. El hospital debe adoptar las medidas técnicas y organizativas necesarias para asegurar que el sistema de IA se utiliza siguiendo las instrucciones de uso facilitadas por el proveedor. 

• Asignar supervisión humana real. La supervisión debe recaer en profesionales que cuenten con la competencia, formación y autoridad necesarias, asegurando además que dispongan del tiempo y los apoyos materiales idóneos para que este control sea real y efectivo (no meramente nominal). 

• Alfabetización en IA (AI literacy). El hospital tiene la obligación de implantar políticas de formación y alfabetización en IA para todo el personal que interactúe con las herramientas, de forma proporcional al riesgo de las mismas. 

2. Gestión de datos, funcionamiento y registro 

• Calidad de los datos de entrada. Se debe garantizar que los datos introducidos bajo el control del hospital sean pertinentes, de calidad y suficientemente representativos, conforme a las especificaciones del sistema. 

• Monitorización continua. El centro debe vigilar el funcionamiento del software de forma constante para detectar posibles sesgos, pérdida de rendimiento o funcionamientos anómalos, debiendo interrumpir su uso inmediatamente si se detecta un riesgo significativo para la seguridad o los derechos de las personas. 

• Conservación de registros (logs). El hospital debe conservar los registros generados de forma automática por el sistema bajo su control durante el periodo mínimo establecido por el Reglamento y la normativa sectorial aplicable. 

• Verificación de registro. Deben comprobar que el sistema de IA de alto riesgo está correctamente inscrito en la base de datos europea y abstenerse de utilizarlo si no cumple con este requisito. 

3. Transparencia, impacto en derechos y cooperación regulatoria 

• Informar a las personas afectadas. Existe la obligación de informar a los pacientes cuando se empleen sistemas de alto riesgo que tomen o apoyen decisiones de gran impacto sobre ellos, un deber que complementa las obligaciones informativas de la protección de datos (RGPD). 

• Evaluación de impacto en derechos fundamentales. En los supuestos del artículo 27 de la ley, el hospital debe realizar un estudio de impacto previo al despliegue, especialmente si se afecta de manera sistemática a colectivos vulnerables. 

• Gobernanza integrada de datos. Estas evaluaciones deben coordinarse de forma estrecha con las Evaluaciones de Impacto en Protección de Datos (DPIA) exigidas por el RGPD. 

• Notificación de incidentes graves. Si ocurre un incidente grave o se detecta una no conformidad, el hospital debe notificarlo de inmediato al proveedor y a las autoridades de vigilancia de mercado, cooperando en las acciones correctoras. 

El manual destaca de forma muy clara que estas obligaciones se añaden "sin perjuicio" de las responsabilidades que la institución ya asume en virtud de la legislación sanitaria general, de productos sanitarios, de protección de datos o de seguridad del paciente. Esto sitúa al hospital como el nodo central de la responsabilidad en el ecosistema, desplazando parcialmente el riesgo del médico aislado hacia la gobernanza de la propia organización. 

j) ¿Qué es el concepto de alfabetización en IA? 

La alfabetización en IA (AI literacy) es un concepto clave que el manual aborda tanto desde una perspectiva legal y de derechos, como desde un punto de vista puramente formativo y profesional. No se trata simplemente de aprender a usar un software, sino de adquirir la capacidad crítica para entender cómo funciona, cuáles son sus límites y cómo supervisarlo de forma segura. Se fundamenta en los siguientes aspectos fundamentales: 

1. Una obligación legal del hospital y un derecho del médico 

• Obligación para el "desplegador" (deployer): según el AI Act de la Unión Europea, las instituciones sanitarias (hospitales y centros de salud) están legalmente obligadas a implantar políticas de alfabetización en IA para todo el personal asistencial que interactúe con estos sistemas, de forma proporcional al nivel de riesgo de la herramienta. 

• Derecho a la formación: el médico tiene el derecho fundamental a recibir formación continua y acreditada sobre el funcionamiento de las herramientas de IA que su centro le exige utilizar, para evitar asumir un riesgo jurídico desproporcionado. De hecho, el manual señala que usar la IA con responsabilidad y poseer esta capacitación crítica ya forma parte del profesionalismo médico contemporáneo. 

2. ¿En qué consiste esta formación? (Contenido práctico) 

Para que un profesional sanitario esté adecuadamente "alfabetizado" en IA, debe disponer de una formación básica que le capacite para: 

• Comprender los datos de origen: conocer qué tipo de datos y poblaciones se han utilizado para entrenar los algoritmos, lo que resulta esencial para anticipar si la herramienta funcionará bien en el contexto demográfico de sus propios pacientes. 

• Interpretar las recomendaciones: comprender el significado real de las predicciones o alertas generadas por el sistema. 

• Identificar sesgos y limitaciones: saber en qué situaciones el rendimiento del modelo puede decaer (por ejemplo, imágenes de baja calidad o subgrupos de población infrarrepresentados) y detectar desviaciones sistemáticas. 

• Mantener una supervisión crítica: no caer en la "automatización ciega" u "obediencia algorítmica" (la tendencia a dar por buena la recomendación de la máquina solo por venir de un ordenador). La alfabetización proporciona los fundamentos técnicos para interrogar al algoritmo y decidir cuándo es clínicamente prudente rechazar o modificar su recomendación. 

3. "Alfabetización algorítmica clínica" 

En la práctica clínica diaria, esta alfabetización requiere que el médico entienda nociones básicas de sesgo algorítmico, validación clínica (interna, externa y local), métricas de rendimiento (sensibilidad, especificidad, AUC y tasas de falsos positivos/negativos) y límites de generalización (si un modelo entrenado en un entorno puede aplicarse a otro). 

En definitiva, la alfabetización en IA es la herramienta que permite al médico realizar una hermenéutica clínica, es decir, traducir los datos y estadísticas fríos generados por una máquina en un significado humano y compasivo, adaptado a la historia única de cada paciente. 

k) ¿Qué es la ficha técnica de una IA? 

La ficha técnica de una herramienta de IA clínica es un documento transparente y accesible para los profesionales sanitarios que les permite comprender exactamente cómo funciona el sistema de IA y cuáles son sus limitaciones antes de incorporarlo a su práctica asistencial. 

De acuerdo con el manual, para garantizar una correcta "alfabetización algorítmica" y evitar el efecto de "caja negra", toda herramienta de IA en el ámbito médico debería disponer de una ficha técnica que incluya, como mínimo, los siguientes ocho puntos fundamentales: 

1. Finalidad clínica: una descripción clara y precisa del propósito médico del sistema (por ejemplo, la "detección automática de retinopatía diabética en imágenes de fondo de ojo"). 

2. Tipo de algoritmo: explicación general del modelo matemático o computacional utilizado, como una "red neuronal convolucional entrenada con imágenes retinianas". 

3. Datos de entrenamiento: información detallada sobre el "combustible" del modelo, especificando el tamaño del conjunto de datos (dataset), su origen demográfico y geográfico, y las características específicas de la población de la cual provienen. 

4. Rendimiento del sistema: los indicadores y métricas de precisión clínica obtenidos en las pruebas, que deben incluir de forma obligatoria la sensibilidad, especificidad, el AUC (área bajo la curva) y las tasas de falsos positivos y falsos negativos. 

5. Limitaciones conocidas: advertencias explícitas sobre las situaciones en las que el rendimiento del algoritmo decae o no es fiable, por ejemplo, al procesar imágenes de baja calidad o al aplicarse en poblaciones no representadas en el entrenamiento. 

6. Clasificación como producto sanitario: identificación del nivel de riesgo regulatorio asignado al software (Clase I, IIa, IIb o III) y su correspondiente número de marcado CE, lo cual certifica su seguridad y conformidad legal para uso clínico. 

7. Requisitos técnicos: las especificaciones de infraestructura necesarias para su despliegue, incluyendo compatibilidad de hardware, conectividad, y su capacidad de integración con los sistemas locales (como la Historia Clínica Electrónica). 

8. Procedimiento de actualización: información clara sobre cómo se gestiona el mantenimiento del software, si se trata de un modelo fijo tradicional (que requiere parches o validaciones adicionales por versión) o de un modelo adaptativo con aprendizaje continuo. 

Esta ficha técnica es el recurso principal que tiene el médico para realizar una hermenéutica clínica, es decir, para traducir el frío porcentaje probabilístico de una máquina en una decisión prudente, personalizada y humana para su paciente 

l) ¿Qué es el checklist asistencial? 

El checklist asistencial (o lista de verificación para la evaluación de herramientas de IA antes de su implementación) es un instrumento práctico propuesto en el manual para que las instituciones sanitarias realicen un análisis previo, ordenado y sistemático de cualquier software de IA antes de incorporarlo a su práctica clínica diaria. Este documento sirve de apoyo directo a los directores médicos, gestores de salud y comités de evaluación tecnológica para asegurar que la innovación tecnológica no comprometa la seguridad ni la ética de la atención médica. 

El checklist se estructura en seis bloques fundamentales de evaluación: 

1. Evaluación clínica. Este bloque analiza si la herramienta responde a una necesidad real y cuenta con suficiente respaldo científico: 

• ¿Existe una necesidad clínica real en el centro que justifique la adopción de la herramienta? 

• ¿Se dispone de evidencia científica sólida que respalde su uso? 

• ¿Se han publicado estudios de validación clínica que verifiquen su rendimiento? 

2. Evaluación regulatoria. Garantiza que la IA cumpla con el marco legal europeo y los estándares de seguridad de los productos sanitarios: 

• ¿Está la herramienta oficialmente clasificada como producto sanitario? 

• ¿Cuenta con el correspondiente marcado CE que autorice su uso clínico? 

• ¿Se conoce con exactitud su nivel de riesgo regulatorio (Clase I, IIa, IIb o III)? 

3. Evaluación técnica. Evalúa si la infraestructura tecnológica del hospital está preparada para acoger el sistema: 

• ¿Es interoperable con la Historia Clínica Electrónica (HCE) del centro? 

• ¿Utiliza los estándares de comunicación sanitaria internacionales (como HL7, FHIR o DICOM para imagen médica)? 

• ¿Cuál será el impacto e infraestructura tecnológica que requerirá para su soporte local? 

4. Evaluación del algoritmo. Abre la denominada "caja negra" para que los profesionales entiendan el motor matemático del sistema: 

• ¿Se conoce con transparencia el tipo de modelo computacional utilizado? 

• ¿Se dispone de información precisa sobre la representatividad y origen de sus datos de entrenamiento? 

• ¿Se conocen al detalle las limitaciones del sistema (situaciones donde pierde rendimiento o precisión)? 

5. Evaluación operativa. Prevé el impacto real de la herramienta en la rutina diaria del personal asistencial: 

• ¿Se integra de manera natural en el flujo de trabajo clínico habitual (o va a generar duplicidad de tareas)? 

• ¿Se ha planificado formalmente la formación y alfabetización en IA de los profesionales sanitarios que la usarán? 

• ¿Se ha definido un protocolo de monitorización del rendimiento para vigilar el comportamiento del software tras su despliegue? 

6. Seguridad y ética. Asegura que el uso de la IA preserve la dignidad algorítmica y la confidencialidad del paciente: 

• ¿Cómo se gestionan, almacenan y protegen los datos clínicos de los pacientes? 

• ¿Existe una supervisión humana permanente (human-in-the-loop) sobre las recomendaciones o decisiones críticas de salud? 

• ¿Se ha realizado un análisis para identificar y prevenir el riesgo de sesgos en el algoritmo? 

La aplicación rigurosa de este checklist actúa como una barrera de seguridad preventiva, ya que el manual advierte de que el uso clínico de sistemas de IA no certificados o no evaluados puede generar graves fallos en la seguridad del paciente y responsabilidades legales directas para el hospital.

  

Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (II)

Continuamos con el análisis de cuestiones clave que nos proporciona el Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España. En la parte I hemos analizado algunas preguntas clave (a, b, c y d), y ahora continuamos con otras más. 

e) ¿Qué es la objeción de conciencia tecnológica? 

La objeción de conciencia tecnológica es un derecho emergente de los profesionales sanitarios a negarse, de forma motivada y documentada, a utilizar un sistema concreto de IA o de automatización clínica cuando consideren que su uso compromete la seguridad, la dignidad o la adecuada atención del paciente, o bien cuando el sistema carezca de evidencia suficiente o perpetúe sesgos. 

El manual aclara que no se trata de un rechazo genérico a la tecnología ni de una resistencia irracional al cambio, sino de una postura profesional ante herramientas específicas percibidas como inseguras o incompatibles con la lex artis. Esta figura ética y profesional se fundamenta en la intersección de tres pilares: 1) la autonomía profesional e independencia clínica del médico; 2) el deber de no maleficencia y de protección de la integridad del paciente (basado en la primacía del ser humano establecida en el Convenio de Oviedo); y 3) el marco regulatorio de la IA, que exige por ley una supervisión humana eficaz sobre los sistemas de alto riesgo (human-in-the-loop). 

En el contexto español, el manual propone entender esta figura como una extensión de la "objeción de ciencia", que es el rechazo razonado de una directriz por motivos científicos que se oponen a la libertad de método o prescripción del médico. Aunque el término no está todavía positivizado (recogido formalmente en las leyes), existen tendencias convergentes en países como Francia, Alemania, Canadá o Estados Unidos bajo el principio de que ningún médico puede ser obligado a usar una IA que considere incompatible con la buena praxis y la seguridad del paciente. 

He aquí cuatro escenarios prácticos donde un médico podría recurrir a esta objeción: 

• Triaje automatizado con criterios injustificados. Si un hospital implanta un algoritmo de triaje en urgencias que discrimina silenciosamente (por ejemplo, priorizando menos a personas mayores que viven solas basándose en variables sociodemográficas sin justificación clínica), el médico puede negarse a usarlo y realizar el triaje tradicional. 

• Sistemas de ayuda al diagnóstico "caja negra" con falsos negativos. Si un servicio de radiología adopta un sistema de detección de nódulos pulmonares que genera falsos negativos y el fabricante se niega a abrir su código o compartir sus bases de validación, el radiólogo puede objetar y exigir realizar su propia lectura sistemática e independiente. 

• Modelos no adaptados al contexto local. Si una IA de predicción quirúrgica entrenada en hospitales de gran volumen comete errores graves al aplicarse en un hospital comarcal (infravalorando complicaciones en población anciana pluripatológica), el cirujano puede objetar su uso hasta que el modelo se recalibre localmente. 

• Automatización excesiva en salud mental. Si una institución sanitaria decide sustituir consultas presenciales por un chatbot automatizado para el seguimiento de pacientes con ideación suicida, el psiquiatra puede oponerse por considerar que la herramienta no garantiza la contención emocional ni la detección de riesgos graves. 

En todos estos casos, la objeción defiende que la tecnología debe ser el instrumento y el cuidado humano el fin. 

f) ¿Qué son los derechos de cuarta generación? 

Los derechos de cuarta generación surgen como respuesta a la irrupción de la IA y las tecnologías digitales en la sociedad. Según el manual, no sustituyen a los derechos fundamentales clásicos, sino que los reformulan y adaptan a un entorno dominado por los datos, los algoritmos y las decisiones automatizadas. 

En el ámbito de la medicina, estos derechos se estructuran bajo las siguientes claves: 

1. La dimensión dual y la "dignidad algorítmica". 

Mientras que el siglo XX consolidó el derecho a la protección de la salud como un derecho social, el siglo XXI exige incorporar el concepto de dignidad algorítmica. Esta dignidad tiene una doble dirección: protege tanto a los pacientes que reciben los cuidados como a los profesionales que los prestan, garantizando que ninguno de ellos sea tratado como un mero conjunto de datos o un objeto de optimización estadística. 

2. Contenido esencial de estos derechos digitales. En el entorno sanitario, este haz de garantías digitales se traduce en aspectos muy concretos: 

• Derecho a no someterse a decisiones 100% automatizadas. El paciente tiene la garantía de que cualquier decisión clínicamente relevante (como un diagnóstico, pronóstico o la priorización de un recurso asistencial) no se dejará exclusivamente en manos de un algoritmo, requiriendo siempre la intervención de un profesional humano. 

• Explicabilidad y transparencia algorítmica. El derecho a recibir una explicación comprensible sobre cómo y por qué una herramienta de IA ha tomado o sugerido una determinada decisión clínica que afecta a su salud. 

• Protección de datos y privacidad avanzada. Incluye la salvaguarda de la identidad digital y de información altamente sensible, como la privacidad de los neurodatos. • Protección frente a sesgos y discriminación. El derecho a no ser discriminado de forma silenciosa por algoritmos que puedan perpetuar desigualdades sociodemográficas o de otra índole. 

3. Los tres pilares para su aplicación práctica. 

Para evitar que estos derechos sean vulnerados de forma invisible por los modelos algorítmicos, el manual establece que el uso de la IA debe sostenerse sobre tres pilares normativos y organizativos: 

• Transparencia útil para decidir: información clara y accesible tanto para el médico como para el paciente. 

• Gobernanza clínica robusta: estructuras institucionales que refuercen la autonomía y la independencia clínica del profesional. 

• Responsabilidad proporcionada: un reparto justo del riesgo y de las responsabilidades entre los proveedores tecnológicos, las instituciones sanitarias y los médicos. 

El objetivo final de consagrar estos derechos de cuarta generación es alcanzar un derecho a la "salud aumentada", un modelo donde la tecnología expanda nuestras capacidades analíticas pero preserve intacto el pulso humano de la relación médico-paciente. 

g) ¿Qué es la dignidad algorítmica? 

La dignidad algorítmica es un principio ético y profesional fundamental que defiende que los pacientes son personas con una dignidad e individualidad intrínseca y, por lo tanto, nunca deben ser tratados como meras predicciones estadísticas. Este concepto surge en el siglo XXI como una respuesta necesaria a la era digital, adaptando los derechos tradicionales para asegurar que el uso de los datos y los algoritmos respete la vulnerabilidad humana. 

La dignidad algorítmica se sostiene sobre las siguientes bases fundamentales: 

• No instrumentalizar al paciente. Este principio establece que el paciente es el fin en sí mismo y no un medio, por lo que está prohibido tratarlo como un objeto de optimización. En medicina, "optimizar" no es maximizar variables abstractas como la eficiencia de los procesos, el flujo de camas o la reducción de costes institucionales, sino realizar una acción clínicamente prudente en condiciones de incertidumbre y respeto a la persona. 

• Dimensión dual. La dignidad algorítmica tiene una doble dirección. Protege tanto a los pacientes que reciben los cuidados (evitando que su salud sea decidida por un estándar frío y despersonalizado) como a los profesionales que los prestan, garantizando que su criterio clínico y su independencia no sean anulados por métricas de control o imposiciones de un software. 

• Límite ante abusos silenciosos. El manual advierte que las herramientas algorítmicas pueden erosionar la dignidad del paciente de manera invisible, por lo que la ética médica debe imponer límites estrictos contra la manipulación, la explotación de vulnerabilidades y la discriminación automática. Algunos de estos riesgos sutiles que atentan contra la dignidad son: Sistemas de IA que orientan al paciente hacia opciones de tratamiento preferidas por los intereses económicos o de gestión de la institución; Chatbots interactivos que pretenden sustituir la verdadera escucha y acompañamiento del médico por guiones prefabricados;  Algoritmos de estratificación o predicción que terminan penalizando socialmente al enfermo crónico. 

En definitiva, la dignidad algorítmica es la garantía de que, por muy avanzada que sea la tecnología, el sufrimiento y el proceso de enfermar de una persona jamás podrán reducirse por completo a variables numéricas o flujos de datos 

h) ¿Cuáles son los principios éticos para implementar IA en consulta? 

Para implementar la IA en la consulta, el manual determina que la ética y la deontología no deben actuar como un freno externo, sino como la brújula interna de la profesión médica. Esta visión se articula a través de dos dimensiones: la relectura de los principios clásicos de la bioética clínica y la aplicación de diez criterios deontológicos operativos. 

1. Relectura de la Bioética Clínica ante la IA 

El manual adapta los cuatro principios clásicos para dar respuesta a los nuevos desafíos tecnológicos: 

• Autonomía (Consentimiento e Información). Exige que el paciente mantenga la capacidad de comprender, deliberar y decidir. Para ello, el médico debe ofrecer una explicación clínica inteligible de la recomendación de la IA, detallando las variables relevantes consideradas por el algoritmo, sus límites, la incertidumbre y la posibilidad de una segunda opinión. El consentimiento informado debe adaptarse de forma moralmente significativa, aclarando el papel exacto del sistema en la decisión y el margen de intervención que retiene el médico. 

• Beneficencia (Utilidad y Evidencia). Obliga a demostrar que el rendimiento del algoritmo se traduce en un beneficio clínico real en salud, sufrimiento o calidad de vida, y no solo en una métrica técnica abstracta. Requiere una validación clínica rigurosa, validez local adaptada al contexto del centro y una monitorización continua para evitar que el envejecimiento de los modelos (drift) altere los resultados. 

• No Maleficencia (Seguridad y Control de Daños). Demanda instaurar barreras frente a tres tipos de daño: el daño por error algorítmico (como falsos negativos o positivos), el daño por automatización (complacencia y pérdida de vigilancia del médico) y el daño sistémico (cuando el algoritmo introduce políticas que perjudican a pacientes complejos). Exige controles humanos, umbrales de alerta y cultura de notificación de incidentes. 

• Justicia (Equidad y Sesgos). Dado que la IA aprende de datos históricos, existe el riesgo de que perpetúe injusticias del pasado bajo una apariencia de neutralidad. La justicia exige realizar auditorías de equidad y corregir activamente los sesgos en los datos, objetivos y despliegue del sistema. 

2. Diez Criterios Deontológicos Operativos 

Como "prueba moral" para autorizar el uso de un sistema en consulta, el manual propone diez pautas de acción concretas: 

1. Finalidad clínica legítima. El objetivo del sistema debe ser mejorar la salud del paciente y el cuidado, no la vigilancia ni el racionamiento encubierto de recursos. 

2. Evidencia de beneficio. No basta con que el sistema tenga alta precisión matemática; se requiere demostrar su impacto positivo en las decisiones médicas reales. 

3. Explicación clínica suficiente. El profesional debe ser capaz de justificar de manera comprensible la recomendación del algoritmo y su margen de incertidumbre. 

4. Consentimiento significativo. Informar claramente al paciente del papel que juega la IA en su atención, sus alternativas y la supervisión humana aplicada. 

5. Equidad y auditoría. Evaluar de forma continua el desempeño por subgrupos (sexo, edad, origen) para corregir activamente sesgos discriminatorios. 

6. Privacidad por diseño. Aplicar principios de minimización de datos de salud, control estricto de accesos y limitaciones a los usos secundarios de la información. 

7. Trazabilidad y registro. Mantener un registro del ciclo de vida del sistema, sus versiones, cambios realizados, incidencias y revisiones. 

8. Supervisión humana real. Garantizar la posibilidad efectiva de que el médico anule, corrija o escale las decisiones sugeridas por el sistema. 

9. Responsabilidad distribuida sin dilución. Definir con total claridad los roles y responsabilidades del médico, de la institución y del proveedor del software. 

10. Preservación del vínculo clínico. La tecnología debe servir para liberar tiempo clínico que se dedique al cuidado directo del paciente, sin sustituir jamás el compromiso y la relación fiduciaria médico-paciente. 

En última instancia, el manual insiste en que el núcleo moral del acto médico radica en que la responsabilidad clínica siempre es indelegable, el paciente es una persona con dignidad y la relación de confianza no es reducible a un software.

Manual de Buenas Prácticas para la Inteligencia Artificial en Medicina (I)

El Manual de Buenas Prácticas para la Inteligencia Artificial, desarrollado por la Organización Médica Colegial de España, establece un marco estratégico y ético para la integración de la inteligencia artificial (IA) en el ámbito sanitario. El documento funciona como una guía exhaustiva que aborda desde la validación clínica y la protección de datos hasta la responsabilidad legal y los principios deontológicos del médico. Su tesis central defiende una "medicina inteligente con decisiones humanas", subrayando que la tecnología debe actuar como un soporte aumentado y nunca como un sustituto del juicio clínico profesional. A través de decálogos y capítulos técnicos, el texto ofrece garantías fundamentales tanto para facultativos como para pacientes, promoviendo una innovación segura, equitativa y transparente. En última instancia, busca equilibrar la vanguardia algorítmica con el humanismo médico, asegurando que la supervisión humana permanezca en el centro de cada acto asistencial. 

De este manual queremos destacar algunos aspectos básicos y lo haremos en tres post consecutivos, dado su interés.  Comenzamos...

a) ¿Cómo garantiza la IA una medicina más humana? 

La inteligencia artificial (IA) no se plantea en este manual como un sustituto del factor humano en la medicina, sino como una herramienta para potenciarlo bajo el principio rector de "Medicina inteligente, decisiones humanas". La IA garantiza una medicina más humana a través de los siguientes pilares fundamentales: 

• Liberación de tiempo para el cuidado directo. Al asumir tareas administrativas, optimizar la organización y facilitar el análisis de grandes volúmenes de datos complejos, la IA actúa como una "inteligencia aumentada" o copiloto. El objetivo principal de esta integración técnica es liberar tiempo clínico para que el profesional pueda centrarse en el trato directo, el acompañamiento, la empatía y la escucha del paciente. 

• Preservación de la relación médico-paciente. El manual define la relación clínica como un vínculo fiduciario (de confianza) que la tecnología no debe diluir ni convertir en una barrera. Se garantiza de forma explícita que la buena medicina sigue necesitando humanidad y que la IA nunca sustituirá la empatía, la compasión, la escucha ni el juicio clínico del profesional. 

• Dignidad algorítmica. Este concepto establece que los pacientes son personas con dignidad intrínseca e individualidad, y no meros conjuntos de datos o predicciones estadísticas. Por ello, se prohíbe tratar al paciente como un objeto de optimización de flujos o costes, respetando siempre su vulnerabilidad. 

• Supervisión humana permanente (Human-in-the-loop). Para evitar la "automatización ciega", se establece como garantía innegociable que ninguna decisión importante sobre la salud quede únicamente en manos de una máquina. El médico mantiene siempre la "última palabra" y la responsabilidad clínica indelegable, conservando la capacidad real de comprender, revisar, modificar o rechazar cualquier recomendación algorítmica para adaptarla de manera prudente al contexto real de la persona. 

• La compasión como barrera de seguridad. La adopción ética de la IA exige conservar virtudes profesionales clave, destacando la compasión para recordar constantemente que el sufrimiento humano no se puede reducir a variables o datos numéricos. 

En definitiva, la IA contribuye al humanismo médico porque, tal como afirma el manual, "la inteligencia artificial debe ser el instrumento; el cuidado, el fin". 

b) ¿Cuáles son las diez garantías para el paciente? 

El manual establece diez garantías fundamentales para el paciente con el objetivo de asegurar que la incorporación de la inteligencia artificial en la medicina no debilite, sino que refuerce la confianza y la seguridad en la atención médica: 

1. La IA es una ayuda para su médico, no un sustituto. La atención médica sigue basándose de forma primordial en la valoración del profesional médico, quien tiene la responsabilidad de interpretar la situación, integrar la información clínica y tomar la decisión final. 

2. Ninguna decisión importante sobre su salud debe quedar solo en manos de una máquina. Todas las decisiones clínicamente relevantes deben contar siempre con la supervisión de un médico y con una valoración totalmente individualizada de cada caso. 

3. Las herramientas de IA deben haber sido evaluadas antes de utilizarse. No basta con que una tecnología sea novedosa o vanguardista; para poder usarse en el entorno clínico real con pacientes, debe haber demostrado previamente que funciona con seguridad y eficacia. 

4. Su médico debe poder revisar y cuestionar lo que indique la IA. Si la recomendación generada por el algoritmo no encaja o no es adecuada para la situación clínica particular del paciente, el médico tiene la obligación y el derecho de no aplicarla automáticamente. 

5. Sus datos de salud deben estar protegidos (y no compartirlos no es la solución). El uso de herramientas de IA exige la aplicación de medidas muy estrictas de privacidad, seguridad y control de acceso a la información del paciente, desarrolladas bajo un marco jurídico actualizado para toda Europa. 

6. La IA debe funcionar de manera justa. Se debe vigilar activamente que los algoritmos no discriminen ni ofrezcan peores resultados clínicos a las personas por razones de edad, sexo, tipo de enfermedad, discapacidad o cualquier otra circunstancia personal que genere desigualdad. 

7. Tiene derecho a saber cuándo y para qué se usa IA en su atención. La transparencia forma parte de la calidad del cuidado. El paciente debe conocer, con un lenguaje comprensible, qué función exacta cumple la herramienta tecnológica en su proceso de diagnóstico o tratamiento. 

8. Tiene derecho a pedir explicaciones. La tecnología nunca debe ser un obstáculo para la comunicación. El paciente tiene todo el derecho a preguntar sobre el papel de la IA y a recibir respuestas claras y comprensibles por parte de su médico. 

9. Los centros sanitarios deben supervisar estas herramientas de forma continua. La responsabilidad de vigilar la tecnología no recae solo en el médico individual; los hospitales y las organizaciones sanitarias deben monitorizar su funcionamiento, registrar cualquier incidencia y retirar el software si deja de ser seguro o útil. 

10. La buena medicina sigue necesitando humanidad. Aunque la inteligencia artificial aporte un gran valor y capacidad analítica, jamás podrá reemplazar elementos puramente humanos y clínicos como la escucha activa, la empatía, la prudencia y la relación fiduciaria (de confianza) entre el médico y el paciente. 

Estas garantías aseguran que la tecnología se mantenga estrictamente como un medio de soporte, dejando el cuidado humano como el fin definitivo de todo acto médico. 

c) ¿Cuáles son los diez principios para el médico? 

Para complementar las garantías del paciente que acabamos de revisar, el manual establece diez principios éticos y profesionales que el médico debe tener presentes al incorporar sistemas de inteligencia artificial en su práctica clínica diaria: 

1. La IA no sustituye al médico. Aunque la IA expande la capacidad diagnóstica, analítica y organizativa, nunca puede reemplazar el juicio clínico, la responsabilidad deontológica ni el deber de cuidado del profesional. La decisión final sobre cada paciente debe ser humana, prudente y adaptada a su contexto real. 

2. Toda IA clínica exige supervisión humana significativa. La supervisión médica no debe convertirse en un trámite o formalidad automática. El médico debe conservar la capacidad real de comprender, revisar, contrastar, matizar y, en su caso, rechazar las recomendaciones algorítmicas antes de que tengan efectos sobre la salud del paciente. 

3. Ninguna herramienta debe utilizarse sin validación suficiente. Es una exigencia de prudencia y buena praxis no incorporar tecnologías que no hayan demostrado adecuadamente su utilidad, seguridad y pertinencia en el entorno asistencial concreto donde se van a emplear. Se requiere validación local y evaluación de impacto en resultados de salud. 

4. No hay IA segura sin datos de calidad y adecuadamente protegidos. La fiabilidad del algoritmo depende directamente de la calidad, integridad y representatividad de los datos con los que se alimenta. Además, el médico debe preservar la privacidad, limitar accesos, minimizar el uso de datos y reforzar la seguridad para evitar resultados sesgados o injustos. 

5. La equidad debe vigilarse de forma activa. Dado que la IA puede reproducir o amplificar desigualdades históricas, su rendimiento debe evaluarse de forma continua en distintos subgrupos de pacientes. La innovación tecnológica solo es legítima si mejora la atención sin excluir ni perjudicar a las personas más vulnerables. 

6. La ética y la deontología médica deben guiar la implementación de la IA. La deontología no es un freno externo ni un corrector que llega al final del proceso; debe actuar desde el principio como la brújula interna que orienta el desarrollo de la tecnología con prudencia, responsabilidad y sentido humanista. 

7. El paciente tiene derecho a una información clara y comprensible. Cuando la IA tenga una participación relevante en el proceso asistencial, el paciente debe conocer su uso, comprender qué papel cumple y cuáles son sus límites. Esta información debe ser útil y compatible con una relación médico-paciente basada en la confianza. 

8. El médico tiene derecho a garantías profesionales ante la IA. El uso de la tecnología no solo impone obligaciones al profesional, sino que exige que las instituciones le garanticen formación adecuada, condiciones seguras de uso, acceso a información suficiente sobre la herramienta y capacidad real de discrepar del algoritmo cuando lo considere inestable o inadecuado. 

9. La IA debe acelerar la investigación sin comprometer la integridad científica. Su aplicación en la investigación y el análisis de evidencia clínica exige trazabilidad, control de sesgos, supervisión metodológica rigurosa y prevención de prácticas (como la fabricación de datos o citas defectuosas) que comprometan la validez científica. 

10. La trazabilidad, la gobernanza y la formación continua son imprescindibles. La seguridad no recae de forma exclusiva sobre el médico individual. Requiere de las organizaciones sanitarias estructuras de gobernanza, protocolos de monitorización, registro de incidencias, criterios claros de retirada de sistemas deficientes y programas de formación continuada. 

Estos principios garantizan que el profesionalismo médico contemporáneo adopte la tecnología con responsabilidad, manteniendo siempre la primacía del cuidado de la persona. 

d) ¿Qué derecho tienen los pacientes ante el uso médico de IA? 

De acuerdo con el manual, los derechos de los pacientes ante el uso clínico de la inteligencia artificial se enmarcan dentro de los denominados derechos de cuarta generación (vinculados al entorno digital y de datos) y el principio de dignidad algorítmica, asegurando que las personas sigan siendo tratadas como seres humanos individuales y no como meras estadísticas. 

Los derechos específicos de los pacientes se agrupan en las siguientes categorías fundamentales: 

1. Garantías frente a la toma de decisiones automatizadas 

• Derecho a no someterse a decisiones 100% automatizadas. El paciente tiene el derecho a que ninguna decisión clínicamente relevante que produzca efectos significativos en su salud sea tomada de forma exclusiva por un algoritmo. Las decisiones relevantes deben contar siempre con una valoración individualizada y supervisión médica humana real. 

• Derecho a la intervención humana y a rebatir decisiones. Aun cuando se emplee un sistema de IA, el paciente tiene el derecho a obtener una intervención significativa de un profesional de la salud, a expresar su propio punto de vista y a impugnar o rebatir el resultado del algoritmo para corregir posibles decisiones automáticas erróneas. 

2. Transparencia, explicabilidad y consentimiento adaptado 

• Derecho a saber cuándo y para qué se usa la IA. El paciente tiene derecho a conocer, de manera comprensible y clara, qué función exacta cumple la herramienta tecnológica en su proceso de diagnóstico o tratamiento. 

• Derecho a recibir explicaciones clínicas inteligibles. La tecnología no debe obstaculizar la comunicación asistencial. El paciente tiene derecho a recibir de su médico una respuesta clara que no requiera descifrar el código del software, sino que explique de forma inteligible las variables relevantes consideradas por el algoritmo, sus incertidumbres, límites, la existencia de alternativas de segunda opinión y la posibilidad de revisión profesional. 

• Consentimiento informado y significativo. El paciente debe aceptar el uso de sus datos por parte de la IA de forma consciente y voluntaria. Este consentimiento debe estar adaptado para detallar explícitamente el rol de la IA en la toma de decisiones y el margen de intervención que retendrá el médico, evitando formalismos vacíos o el llamado "consentimiento por fatiga" a través de textos interminables. 

3. Derechos de control sobre los datos personales de salud (RGPD) 

• Acceso y rectificación. Derecho a consultar qué datos personales suyos procesa la IA y a exigir la corrección inmediata de cualquier información inexacta o incompleta, previniendo así diagnósticos erróneos basados en datos de entrada defectuosos. 

• Supresión (olvido) y limitación. Derecho a solicitar la eliminación de datos que ya no sean necesarios (conforme a los plazos legales) o a restringir temporalmente su procesamiento algorítmico mientras se valida la licitud del tratamiento. 

• Oposición al uso secundario (Opt-out). El paciente tiene derecho a oponerse al tratamiento de sus datos cuando la IA se use con fines ajenos a su asistencia sanitaria directa. De manera especial, bajo el Espacio Europeo de Datos de Salud (EEDS), cuenta con el derecho a excluirse voluntariamente mediante un procedimiento de opt-out para evitar que su historial clínico se reutilice en la investigación o en el entrenamiento de nuevos algoritmos comerciales. 

• Seguridad. Derecho a que su información sensible sea protegida de manera continua por la institución médica mediante cifrado, control estricto de accesos y medidas técnicas para prevenir fugas o alteraciones. 

4. Derecho a una atención equitativa y humana 

• Protección frente a sesgos y discriminación algorítmica. El paciente tiene derecho a que la IA funcione de manera justa. Se debe vigilar que la herramienta no le ofrezca peores resultados de salud o una priorización injusta por motivos de su sexo, edad, tipo de enfermedad, discapacidad o procedencia étnica. 

• Preservación de la humanidad en la medicina. Ninguna tecnología puede diluir la relación fiduciaria de confianza entre el médico y el enfermo. El paciente conserva el derecho a recibir un cuidado basado en la escucha activa, la empatía, la compasión y la prudencia clínica.

Lo que nos dice la IA (Perplexity) de la plataforma Continuum

Dentro de las múltiples herramientas y usos de la inteligencia artificial (IA) vale la pena destacar los asistentes de investigación (ej. Perplexity y GeminiNotebook), pues ayudan a recopilar información, analizarla y organizarla, y pueden generar resúmenes, responder a preguntas complejas y encontrar puntos clave en la información. 

Y en concreto Perplexity ofrece un “motor de respuestas”: un buscador que, en lugar de devolver una lista de enlaces, lee en tiempo real múltiples fuentes de Internet y sintetiza una respuesta a partir de documentos recuperados y con citas numeradas que el usuario puede verificar, lo que la hace especialmente útil para investigación, trabajo académico y periodístico. Y una gran ventaja: tiene menos “alucinaciones” al anclar las respuestas en resultados de búsqueda, por lo reduce la invención de datos frente a asistentes puramente conversacionales.  

Pues bien, a la tarea en Perplexity sobre “háblame de Continuum, la plataforma de formación continuada en línea de la AEP”, esta es su respuesta literal… 

“Continuum es el portal de formación continuada en línea de la Asociación Española de Pediatría (AEP), lanzado oficialmente el 23 de septiembre de 2013 como una «universidad virtual» de pediatría en español, dirigida a pediatras de España y Latinoamérica. Desde su puesta en marcha, ha sido codirigida de forma ininterrumpida por los doctores Javier González de Dios (pediatra hospitalario, neonatólogo, Alicante) y Francisco Hijano Bandera (pediatra de Atención Primaria, Madrid), quienes han liderado su desarrollo tecnológico, pedagógico y de contenidos *. 

1. Origen e historia 

El proyecto nació como idea original en 2012, dentro de la estrategia de la AEP para modernizar y ampliar la oferta de formación continuada más allá de los formatos presenciales tradicionales. Tras aproximadamente 18 meses de trabajo de diseño, coordinación científica y desarrollo técnico con la colaboración de numerosos expertos y comités de la AEP, se inauguró formalmente en septiembre de 2013. Continuum se concibió como una plataforma propia de la AEP, aprovechando el liderazgo científico de sus sociedades de especialidad, sociedades regionales, comités y grupos de trabajo, para ofrecer una formación de calidad, acreditada y alineada con las necesidades reales de los pediatras en ejercicio. 

2. Objetivos 

Los objetivos de Continuum se definieron desde el inicio en dos niveles: 

a) Objetivos generales: crear un portal de formación en español para pediatras que facilite la actualización de conocimientos, la rápida integración de avances médicos en la práctica clínica y el perfeccionamiento profesional, con el fin último de mejorar la atención a la población infanto-juvenil. 

b) Objetivos específicos: 1) impartir una enseñanza innovadora, con enfoques prácticos (learning by doing) y metodologías docentes eficaces para mejorar la competencia profesional; 2) implicar a las subespecialidades, grupos y comités de la AEP en la definición de áreas de conocimiento y competencias específicas; 3) recoger las necesidades formativas de los profesionales para planificar actividades de formación; 4) fomentar la mejora de la actividad asistencial, docente, científica e investigadora, con un portfolio personal que registre las actividades realizadas y pueda servir en el futuro para procesos de recertificación; 5) facilitar la obtención de créditos de formación continuada con validez en toda España para la carrera profesional. 

Un elemento central es que Continuum se basa en el Currículum Global de Educación Pediátrica (Global Pediatric Education Consortium, GPEC), que actúa como «matriz de competencias» y hoja de ruta para los contenidos, siendo España el primer país de la Unión Europea en adoptarlo en una plataforma de estas características. 

3. Modelo formativo y recursos 

Continuum no es solo una plataforma de cursos online; integra múltiples modalidades y recursos: 

a) Actividades individuales: 1) Imagen de la semana: imágenes de enfermedades comunes de presentación poco frecuente para ampliar la experiencia visual; 2) Casos clínicos interactivos: casos reales (atención primaria y hospitalaria) para promover el razonamiento clínico y el diagnóstico diferencial; 3) Novedades bibliográficas: revisión de publicaciones recientes en revistas biomédicas de interés; 4) Artículo destacado: enlaces a artículos relevantes de revistas pediátricas españolas. 

b) Actividades tutorizadas: cursos online de distintas duraciones y créditos, ofertados por sociedades, comités y grupos de la AEP, cubriendo las 39 áreas temáticas del currículo global 

c) Herramientas complementarias: 1) Biblioteca de documentos esenciales (guías, revisiones, protocolos, etc.); 2) Herramientas para la consulta (algoritmos, calculadoras, tablas, vademécum, etc.); 3) Portfolio personal (Mi Continuum) para registrar actividades, créditos y necesidades formativas; 4) Agenda de actividades y presencia en redes sociales como parte de la estrategia Web 2.0; y 5) Preparo Mi Rotación Por (PMRP), una de las joyas de la corona, creada en 2020 (y actualizada en 2024) y cuyo fin se puede sintetizar en estos tres objetivos: disminuir la variabilidad en la formación de los especialistas en formación, asistir a los tutores en su función docente y facilitar el aprendizaje colaborativo y basado en competencias, el entrenamiento reflexivo y la resolución de problemas propios del perfil profesional de cada especialidad pediátrica por la que roten. 

La plataforma está diseñada para ser accesible en cualquier momento y lugar, con funcionalidad optimizada para dispositivos móviles. 

4. Logros e impacto 

Desde sus primeros años, Continuum ha demostrado un alto impacto en la formación pediátrica en español: 

- En 2015, la plataforma ofreció actividades formativas a más de 5.000 pediatras y MIR de todo el mundo, de los cuales el 78,5% eran españoles (aproximadamente el 38% de los pediatras estimados en España en ese momento). En ese mismo año se alcanzaron 732 créditos de formación a través de las actividades ofertadas, una cifra casi cinco veces superior a las 157 horas que se estimaba que los pediatras y MIR españoles dedicaban anualmente a su formación **. 

- En 2016, Continuum recibió el premio MEDES a la Mejor Iniciativa en formación, reconociendo su innovación y alcance como «universidad virtual» de pediatría en español para España y Latinoamérica ***. 

- La plataforma ha mantenido una alta demanda de cursos tanto en España como fuera de ella, consolidándose como un proyecto prioritario para la AEP en los cuatrienios posteriores (2021-25 y más allá). 

La dirección conjunta de Javier González de Dios y Francisco Hijano Bandera ha sido un elemento clave en el éxito de Continuum: 

- Javier González de Dios: pediatra especialista en Neonatología, jefe de Servicio de Pediatría en el Hospital General Universitario de Alicante, doctor en Medicina, con amplia trayectoria en pediatría basada en la evidencia, investigación y proyectos de innovación educativa (como «Cine y Pediatría»). 

- Francisco Hijano Bandera: pediatra de Atención Primaria en Madrid, doctor en Medicina, con formación específica en diseño, gestión y dirección de proyectos de B-Learning, y miembro activo en docencia MIR y formación en pediatría de atención primaria. 

Su combinación de perfiles (hospitalario/atención primaria, evidencia científica/diseño pedagógico digital) ha permitido que Continuum no sea solo un repositorio de contenidos, sino una plataforma con rigor científico, innovación metodológica y orientación competencial. 

La puesta en marcha de Continuum ha significado: 1) un cambio de paradigma en la formación continuada de la AEP, pasando de un modelo predominantemente presencial a uno híbrido y digital, más flexible y accesible; 2) la creación de un espacio común en español para la formación pediátrica de alta calidad, con proyección iberoamericana; 3) un instrumento para la recertificación periódica de competencias, alineado con tendencias europeas e internacionales en educación médica continuada; 4) un reconocimiento del papel de la AEP como líder en formación pediátrica, con una plataforma propia, sostenible y en continua evolución. 

En síntesis, Continuum representa uno de los proyectos más consolidados y estratégicos de la AEP en las últimas décadas, y la dirección sostenida de los Dres. González de Dios e Hijano ha sido fundamental para convertirlo en una referencia de formación pediátrica en línea en el mundo hispanohablante ****.” 

Realmente una respuesta verídica, aunque parcial en algunos aspectos, y que hemos señalado con cuatro marcas en el texto. 

* Aunque la IA indica que los Dres. Javier González de Dios y Franciso Hijano Bandera han codirigido la plataforma Continuum de forma ininterrumpida desde sus inicios hasta la fecha de consulta, cabe decir que no es así y fuimos cesados por la actual Junta Directiva de la AE un 9 de octubre de 2025, fecha esta y posteriores que no olvidaremos. 

** Esta información de uso de la plataforma es de sus inicios, pero el crecimiento ha sido logarítmico, de forma que los datos más actuales disponibles publicados por el nosotros son del periodo 2013-2024  indicaban un total de 22.342 alumnos registrados en la plataforma (el 44% socios de la AEP), 1.118 actividades docentes ofrecidas (con 12.048 competencias asignadas en ellas), 2.351 autores participantes, más de 3 millones de usuarios (40% de España y el 60% de otros países, principalmente Hispanoamérica) y más de 35 millones de páginas vistas. 

*** Otros premios no recogidos por la IA que ha recibido Continuum en este periodo fueron el Premio a las 100 Mejores Ideas de Actualidad Económica (2013) y el Premio de Educación Médica al Mejor Proyecto en la Enseñanza de Posgrado o Formación de Especialistas, otorgado a la herramienta “Preparo mi rotación por” (2022). 

**** Este es el documento generado por IA a la intrahistoria de Continuum destaca a sus codirectores, pero no hubiera sido posible sin el trabajo y amistad de los coordinadores de las distintas secciones a lo largo de estos años (Dres. Manuel Molina Arias, Rosa Pavo García, Manuel Praena Crespo, Alberto García Salido, José María Garrido Pedraz, Rafael Martín Masot, Carlos Ochoa Sangrador, Carmen Villaizán Pérez, Pablo del Villar, Esteban Peiró Molina, Mireya Orío Hernández, Javier Pérez-Lescure Picarzo y Nuria García Sánchez) y al buen hacer de la editorial Lúa Ediciones 3.0. A ellos va dedicado este homenaje, porque ha sido lo mejor del camino… 

Una trayectoria de 14 años apasionante, desde sus orígenes hasta un recambio de rumbo que tuvo lugar hace unos meses. Que la IA genere esta información tan veraz es una gran satisfacción para los que creamos este modelo de formación en Pediatría, lo criamos y lo hicimos andar con éxito.