Guía de buenas prácticas en el uso de IA generativa para la docencia

 

La Inteligencia Artificial Generativa (IA Generativa) es un tipo de inteligencia artificial diseñada para crear contenido nuevo y original que simula la producción humana. A diferencia de los sistemas de IA tradicionales, que se centran en clasificar datos o tomar decisiones basadas en patrones predefinidos, la IA generativa genera datos, como texto, imágenes, música, videos e incluso código. 

La IA Generativa utiliza modelos avanzados de aprendizaje automático, en particular redes neuronales profundas como las redes generativas antagónicas (GANs) y modelos de lenguaje grande (LLMs, como GPT). 

Y los elementos clave de su funcionamiento son: 

1. Entrenamiento en Grandes Conjuntos de Datos: se entrena con vastas cantidades de datos relacionados con el tipo de contenido que se desea generar (por ejemplo, para un modelo que genera texto, el conjunto de datos puede consistir en libros, artículos y otros textos disponibles) y durante el entrenamiento, el modelo aprende patrones, estructuras y relaciones en los datos. 

2. Métodos Generativos Principales: a) Redes Generativas Antagónicas (GANs): utilizadas principalmente para generar imágenes, videos o música; consisten en dos redes neuronales: generador (crea datos falsos similares a los datos reales) y discriminador (evalúa si los datos generados son reales o falsos), y ambas redes compiten entre sí, lo que mejora la calidad de los datos generados; b) Modelos Basados en Transformadores (como GPT): usan capas de atención para analizar relaciones en datos secuenciales (por ejemplo, palabras en un texto), de forma que estos modelos predicen la próxima palabra, píxel o nota musical en función del contexto, permitiéndoles generar contenido coherente. 

3. Generación del Contenido: una vez entrenada, la IA puede generar contenido siguiendo indicaciones del usuario (prompts). 

4. Optimización y Control: los modelos suelen incluir mecanismos para ajustar el estilo, la creatividad y la precisión del contenido generado; también se aplican filtros para evitar la generación de contenido inapropiado o sesgado. 

Las principales funciones de la IA Generativa incluyen generación de texto (puede escribir artículos, historias, guiones, etc.), creación de imágenes (produce imágenes originales basadas en descripciones textuales), composición musical (crea melodías y piezas musicales completas), diseño (genera diseños gráficos, logotipos, o incluso planos arquitectónicos), programación (puede escribir código y desarrollar software), traducción y procesamiento del lenguaje natural (traduce entre idiomas y entiende el contexto del lenguaje), predicción y análisis de datos (genera predicciones basadas en patrones de datos existentes) y creación de video y animación (produce contenido audiovisual original). 

Sin embargo, la IA Generativa puede ver afectada su fiabilidad por varios aspectos, como sesgo en los datos (porque si los datos de entrenamiento contienen sesgos, estos se reflejarán en las salidas). falta de comprensión real (pues aunque pueden generar contenido coherente, no tienen una verdadera comprensión del mundo real), alucinaciones (porque pueden generar información falsa o inexacta, especialmentecuando se les pide algo fuera de su base de conocimientos), inconsistencia ( de forma que las respuestas pueden variar entre diferentes ejecuciones), falta de contexto actualizad (porque su conocimiento se limita a la fecha de su último entrenamiento), cuestiones éticas y legales (pueden surgir problemas desde el punto de vista ético, y vulneraciones en las normativas, en particular en materia de protección de datos y propiedad intelectual). 

Las aplicaciones de la IA Generativa son diversas, y una de ellas es la educación, a la que dedicamos este post. Porque la IA generativa está transformando significativamente el panorama educativo en las universidades, ofreciendo una variedad de aplicaciones que pueden mejorar tanto la enseñanza como el aprendizaje.

- Los estudiantes pueden mejorar su aprendizaje mediante el refuerzo con herramientas de IA generativa que les ofrecerá ayuda para responder a preguntas y obtener explicaciones de temas complejos, así como el apoyo en la redacción de borradores de trabajos académicos o de artículos científicos, la traducción de materiales en otros idiomas, la respuesta a exámenes de años anteriores, o elaborar mapas conceptuales. 

- Los profesores pueden utilizar la IA generativa para el apoyo en la creación de contenidos o la adaptación de materiales científicos a diferentes niveles de comprensión del estudiantado, la automatización de tareas administrativas, como la gestión de calificaciones, o el análisis de datos de rendimiento de estudiantes para identificar áreas de mejora de la enseñanza. También puede ayudar en la creación de contenido interactivo y/o gamificado que motive el aprendizaje del estudiantado. 

Por ello desde las universidades cabe tener en cuenta las siguientes consideraciones con el uso de la IA Generativa: 1) Fomentar un uso ético de la IA, evitando el plagio y garantizando la autenticidad de los trabajos académicos; 2) Asegurar la privacidad de los datos, algo fundamental en cualquier interacción con IA; 3) Evitar la brecha tecnológica debería evitarse siempre que se pueda, intentando que los estudiantes tengan acceso igual a las tecnologías de IA, evitando desigualdades en el rendimiento académico. 

Por ello desde nuestra Universidad Miguel Hernández se ha promovido esta guía de buenas prácticas en el uso de IA generativa para la docencia universitaria, y que comparitmos en este enlace. 

Herramientas de Inteligencia Artificial

Tras revisar los principales hechos clave en el camino a la Inteligencia Artificial (IA) y la terminología básica, cabe enumerar las principales herramientas que nos proporciona. Y como antesala a este complejo mundo, ¿qué es lo que el usuario de a pie debe conocer para comenzar el camino? Y comencemos con, quizás, lo más popular: los chatbots. 

a) Chatbots: son aplicaciones que mantienen conversaciones fluidas, son capaces de responder preguntas y generar contenido. Son asistentes a lo que se les puede pedir que expliquen temas difíciles, generen resúmenes, cuestionarios para para practicar, ayudan a ordenar nuestras ideas y generan borradores de contenidos. 

- ChatGPT: lanzado al público en noviembre de 2022, marcó el inicio del boom de la IA. Es el chatbot más completo hasta hoy. Y por varias características: tiene memoria (guarda información entre chats, a diferencia de otros) y puede crear asistentes especializados (en la versión de pago). 

- Claude: desarrollado por Antrhopic, es el chatbot más avanzado después de ChatGPT. Es muy seguro, pues previene de respuestas dañinas y procesa más información que ChatGPT (es decir, tiene mayor ventana de contexto). 

- Gemini: desarrollado por Google Deepming, no es tan potente como los otros dos, pero tiene una capa gratuita muy amplia y se conecta con los servicios de Google. 

- Llama: es un modelo Open Source desarrolado por Meta (Facebook) que es muy adaptable tanto a entornos empresariales como locales. Meta AI es la implementación de Llama dentro de los productos de Meta. 

b) Generadores de imágenes: convierten descripciones de texto en imágenes y también pueden modificar imágenes a partir de una instrucción en texto. Podemos crear imágenes para presentaciones de PowerPoint, afic.es o ilustraciones sin grandes conocimientos de diseño. 

 - Midjourney: crea imágenes a partir de descripciones textuales. Es decir, le decimos lo que queremos ver y ella lo dibuja. Es capaz de generar imágenes muy realistas y artísticas, desde retratos hasta paisajes fantásticos. Son fotos más reales y que parecen menos de IA que otros programas. 

- DALL-E: desarrollado por OpenAI, genera imágenes a partir de descripciones en lenguaje natural. Es altamente flexible, lo que permite crear imágenes únicas para diferentes aplicaciones, desde arte digital hasta contenido empresarial. 

- Adobe Firefly: permite crear imágenes desde la web y también se integra con las herramientas de Adobe: Photoshop e Illustrator. 

- Imagen3 (Google): es el modelo de generación de imágenes de Google incluido dentro de Gemini. 

c) Generadores de audio y video: pueden crear video y audio realista (voces o música) a partir de texto. Nos permite crear voces para videos creativos o publicitarios y videos para presentar nuestras ideas. 

- Eleven Labs: es la mejor aplicación para generar audio, pues crea voces realistas. Soporta varios idiomas, tiene estilos y tonos de voz (e incluso puede clonar nuestra propia voz). 

- Heygen: es la mejor aplicación para video, pues crea avatares realistas que pueden hablar en varios idiomas. Así podemos crear videos sin contar con cámara ni equipo y sin mostrar nuestra cara. 

- Runway: es el primer modelo importante de generación de videos por IA y lo hace a través de texto. Su primera versión (gen-1) se lanzó en febrero de 2023, en marzo de 2023 se lanzó gen-2 y en junio de 2024, gen-3. 

d) Generadores de código: ayuda a escribir, corregir y optimizar el código en varios lenguajes de programación. Podemos usarlos para mejorar nuestras habilidades de programación (quien las tenga), dominar más rápido lenguajes nuevos, documentar tu código y encontrar errores y resolverlos. 

- Github Copillot: fue el primer generador de código importante. Se lanzó en julio de 2021 como beta y se liberó al público en 2023. Está basado en el modelo Codex de OpenAI. 

- Tabnine: su diferencia es que puede ejecutarse y analizar el código localmente. Ideal para mantener la privacidad de los proyectos. 

- Amazon Q Developer: es parte de Amazon Q, una familia de asistentes de IA de Amazon que están muy integraos con sus servicios de nube AWS. 

e) Asistentes de investigación: ayudan a recopilar información, analizarla y organizarla. Pueden generar resúmenes, responder a preguntas complejas y encontrar puntos clave en la información. Son excelentes para proyectos de investigación, tesis o comprender artículos avanzados. Podemos destacar a Perplexity y NotebookLM.   

Después de revisar las principales herramientas, algunos consejos para usar bien un chatbot, quizás lo más recurrentemente utilizado. Porque para sacar el máximo potencial no basta con escribir sin más. Para usarlo mejor, es importante la precisión en lo que se consulta. Y estos son algunos consejos: 

1) No lo uses como Google: no tiene nada que ver, no sirven palabras sueltas sin más. 

2) Ponle en contexto, y ello porque el chatbot tiene tal cantidad de conocimiento que si no le damos un contexto no va a saber qué entregarnos. 

3) Coloca al chatbot en un papel determinado (en un rol): es una de las mejores técnicas para obtener resultados precisos. 

4) Si es necesario, da un ejemplo al chatbot de cómo esperas la respuesta. 

5) También le puedes pedir el formato de la respuesta: párrafos, resúmenes, listas, tablas, etc. 

6) Se pueden poner también las reglas de la conversación: con las reglas del juego claras, no nos llevaremos sorpresas. 

7) Y ojo, conviene abrir un chat por proyecto. Es una de las cosas más productivas que se pueden hacer con un chatbot, ya que conocerá todo el contexto de tu proyecto (sin mezclar con otras cuestiones).

Todo un mundo el de la IA que ya es una realidad y sobre el que conviene no perder muchos el paso. Porque ha llegado para quedarse (y avanzar a demasiada velocidad). 

El camino a la inteligencia artificial (IA)

Hay un hecho que debemos conocer con claridad: la llamada Inteligencia Artificial (IA) no nos va a quitar el trabajo, pero si nos va a quitar el trabajo otra persona como nosotros pero que sí usa la IA en su vida diaria. Por eso, nos guste más o menos ahora, debemos incorporar la IA en nuestras vida, como ya lo hicimos con los ordenadores o con internet. 

No es fácil entender la IA y utilizar bien las herramientas en aspectos como la docencia o la investigación, cual es mi caso. Estoy realizando cursos y talleres sobre herramientas de IA para esas funciones y no es un camino de rosas. Pero el esfuerzo vale la pena… 

Y por ello vale la pena conocerlo. Y hoy quiero compartir algunas fechas y nombres importantes que han hecho posible este hito. Porque la IA no nació con el ChatGPT, aunque esta herramienta la haya popularizado. Su historia se remonta a la mitad del siglos XIX y ha sido un camino largo y sinuoso, aunque muy acelerado en la última década. Veamos algunas fechas y nombres clave. 

Se dice que fue en 1843 cuando la británica Ada Lovelace, matemática y escritora, escribió el primer programa informático y teorizó sobre lo que podrían hacer los ordenadores, asegurando que no podrían pensar. Ella conoció a otro matemático, Charles Babbage, quien estaba trabajando en una calculadora avanzada a la que llamó como “máquina diferencial”, pero luego se puso a trabajar en una “máquina analítica” que se podía reprogramar.  

Tuvo que pasar un siglo para que otro genio británico, Alan Turing, quien creía que los ordenadores podrían pensar, diseñase en 1950 el Test de Turing para comprobarlo (lo llamó “the imitation game” y constaba de dos personas y una máquina) y que tardó más de siete décadas en superarse (con ChatGPT y otros). Su vida se ha llevado a la literatura y al cine, con Descifrando Enigma (The Imitation Game, Morten Tyldum, 2014) como más significativa. Para llegar allí cabe citar su artículo de 1936 “On Computable Numbers” para comenzar a hablar de la arquitectura de los ordenadores binarios que funcionan hasta el día de hoy, y que se le llamó la Máquina de Turing.  

En 1956 es la primera vez que se usa el término Inteligencia Artificial, y se debe al pionero informático estadounidense John McCarthy en un conferencia en el Darmouth College a sus colegas. Además creó el lenguaje LISP (familia de lenguajes de programación de computadora de tipo multiparadigma) para desarrollar IA e impulsó su desarrollo. Y, por todo ello, fue reconocido con el Premio Turing en 1971 y tiempo después funda el Departamento de IA de la Universidad de Standford.  

Aquí comenzó la primera carrera por la IA. Y en 1958, el psicólogo estadounidense Frank Rosenblatt creó la primera neurona artificial (computadora conocida como perceptrón), el cual es un modelo matemático que recrea el funcionamiento de una neurona biológica. En ese mismo año, Alex Bernstein creó el primer programa de ordenador capaz de jugar al ajedrez (pero en la demo, tras la primera jugada del humano el ordenador dijo “me rindo”, lo que hablaba de que había mucho que mejorar). Y en 1966, el profesor de informática de origen alemán Joseph Weizenbaum creó el primer chatbot de la historia llamado ELIZA y que se comportaba como un terapeuta psicólogo. Pero no era IA, sino una lista de parámetros para responder.   

Luego llegan las décadas de los 70 y 80 que vienen a definirse como el “invierno de la IA”, pues después de un inicio eufórico, la IA se detuvo y e incluso aparecieron opositores. Las promesas eran muchas, el coste elevado, así que los gobiernos cerraron el presupuesto en este campo y ello con el Informe Lighthill del año 1973. En ese espacio Geoffrey Hinton define el concepto de redes neuronales profundas (o multicapa) en 1986, de manera que cada capa resuelve una tarea específica y, al juntarlas, podían resolver tareas complejas. 

Hay un despunte en 1997 con Deep Blue, la primera computadora (de IBM) que derrotó a un campeón del mundo de ajedrez como Gary Kasparov (aunque no era totalmente IA y realmente había una persona detrás que apoyaba a la máquina). Pero lo cierto es que entre 1986 y 2006 llega el "segundo invierno de la IA", pues atenazaba el problema del "desvanecimiento de gradiente" y hubo d esperar dos décadas para resolverse. 

En 2006 resurge la IA cuando Geoffrey Hinton y su equipo resuleven ese "desvanecimiento de gradiente" y es así que saltamos al 2011, cuando aparece Watson, otra supercomputadora creada por IBM que fue capaz de vencer en el juego Jeopardy, y eso implicaba entender dobles sentidos y juegos de palabras.  Y todo esto nos lleva al boom de la IA. Y que comienza con Siri en 2011, el primer asistente con IA con voz que Apple lanza dentro de los iPhone y que enciende la alarma de sus competidores, por lo que en 2012 sale Google Now y en 2014 Alexa. Pero la IA de estos asistentes de voz era muy básico. Tras ese pistoletazo de salida, Google (que tiene Android) entró en pánico y como respuesta en 2014 hace su inversión más importante en IA y compra Deepmind (que se suma al Google Brain que ya tenían) para posicionarse como líder mundial de la IA. 

En 2015, el magnate sudafricano Elon Musk (ahora ya en el nuevo gobierno de Donald Trump) y el programador y bloguero estadounidense Sam Altman fundan OpenAI como respuesta a Google. En realidad es un laboratorio de investigación de inteligencia artificial que lo crean con la intención de entregar la IA al beneficio de la humanidad y sin fines de lucro. Y aquí comienzan a reclutar a los mejores, que habitualmente estaban en Google, para lo que Musk tuvo que desembolsar mucho dinero para traerse a genios como el informático israelí-canadiense, nacido en Rusia, Ilya Sustkever. Pero lo cierto es que los avances no fueron inicialmente los deseados…    

Fue en 2017 cuando ingenieros de Google publican el artículo “Attention is all you need”, que viene a decir que lo que necesitan mejorar los científicos de IA no es la memoria, sino la atención, por lo que se introduce la arquitectura Transformer, algo revolucionario y gracias a la cual tenemos la IA generativa. Y es cuando los de OpenAI aprovechan la enseñanza del artículo y crean GPT (Generative Pre-trained Transformer) en su primera versión (GPT-1). Ahí es cuando Elon Musk vio margen de negocio y quisó fusionar OpenAI con Tesla, pero aquello acabó como el rosario de la aurora con Sam Altman. Así que Musk se fue y se llevó el dinero, pero Altman recurre entonces a Miscrosoft, quien invierte 1000 millones de dólares luego de que Musk les dejara sin fondos, y crearon GPT-2 y GPT-3.  

Ya en el año 2021 es cuando Google presenta LaMDA (Language Model for Dialogue Applications), un modelo de lenguaje que puede conversar e inventar historias, por lo que el ingeniero Blake Leomine llegó a decir que tenía vida y conciencia. Pero nunca lo sacó al público. Y de aquí llegamos al punto crítico, ese 30 de noviembre de 2022 (se van a cumplir ahora solo dos años) en el que OpenAI lanza un chatbot experimental basado en GPT 3.5 sin estar seguros de qué pasaría. Y lo que pasó es que el mundo cambió para siempre con ChatGPT…y el test de Alan Turing había sido superado con creces y para siempre. Decir que ya se había desarrolla antes el chatbol Claude, pero no se lanzó en su momento como ChatGPT, que no esperó a su versión 4 y lanzó la 3.5. 

Y lo que ha pasado en estos dos años ya lo conocemos mejor, con esa lucha de posicionamiento entre Google (Gemini), Facebook (MetaAI) y Apple (Apple Intelligence), donde todos dicen superar a los demás. Y ahí se anda en la carrera a la AGI (Artificial General Intelligence) y sus intereses comerciales. 

Destacar que el Premio de Física 2024 se ha concedido al físico estadounidense John Hopfield y al científico computacional británico Geoffrey Hinton por poner las bases de la inteligencia artificial, “padrinos” del aprendizaje de máquinas con redes neuronales artificiales. Un premio que desató la polémica entre los científicos, pues para muchos la IA no es física, más bien una cuestión matemática o  de ingeniería. Pero esa es otra batalla… 

Luces y sombras de la Inteligencia Artificial aplicada a la Pediatría

 

La inteligencia artificial (IA) está de moda. Y no solo lo está en la pléyade de artículos científicos publicados, sino también en las noticias en prensa generalista, en conferencias y ponencias, en vídeos; y, sobre todo, en nuestro día a día. Y no solo nos interesan sus luces, sino que nos preocupa sobremanera sus sombras y esas zonas grises que deberemos resolver. 

Dos artículos del último número de Revista de Pediatría de Atención Primaria se convierten en dos colaboraciones especiales sobre el tema, de dos compañeros pediatras que reflexionan sobre ello: el artículo “El futuro ha comenzado” del Dr. Manuel Molina y el titulado “Inteligencia artificial. Desafíos y preocupaciones” del Dr. Rafael Jiménez Alés. Os dejo el enlace de cada uno por el interés de su lectura, pero conviene sintetizar algunas ideas clave.   

La inteligencia artificial se podría definir como la simulación de la inteligencia humana en máquinas programadas para realizar tareas que normalmente son realizadas por seres humanos, allí donde se combina con los conceptos de aprendizaje automático y aprendizaje profundo. El primer trabajo reconocido sobre IA data de 19433, publicado por WS McCulloch y W Pitts, dos años después de que Isaac Asimov, en un relato corto sobre robots, enunciase las denominadas “tres leyes de la robótica”: 1) Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño; 2) Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley; y 3) Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley. 

En estos artículos se hace una revisión de las potenciales aplicaciones actuales de la IA en la práctica pediátrica (y en otras áreas de la sanidad) y que ya hace tiempo comentamos en el blog como pasado y presente de la eSALUD:  

- Monitorización automática y clasificación de signos clínicos (como constantes vitales), dando recomendaciones sobre su ajuste y finalización. 

- Aplicaciones de diagnóstico por imagen basadas en algoritmos de aprendizaje profundo, que permiten acortar los tiempos de diagnóstico y aumentar la fiabilidad en campos como la cardiología, anatomía patológica, dermatología, oftalmología, endoscopia digestiva o radiología. 

- Desarrollo de una medicina de precisión, basada en datos genómicos y otras características del paciente (incluso imágenes), que permiten agrupar a pacientes similares y proporcionarles pautas de tratamiento más específicas. 

- Estudios genómicos, que son posibles gracias al desarrollo de computación en la nube y el big data, y que permiten realizar estudios comparativos, antes irrealizables. 

- Medicina digital y dispositivos personales (wearables y nearables), como relojes inteligentes u otros tipos de dispositivos que permiten realizar “minería de datos” para la detección, predicción y toma de decisiones clínicas. 

- Desarrollo de asistentes virtuales y robots en los campos de la cirugía robótica, telemedicina, la rehabilitación y fisioterapia, los tratamientos psiquiátricos, el manejo de enfermedades crónicas y la educación para la salud desde un punto de vista general. 

Pero estas luces, imparables ya (y que seguro que ayudarán), no pueden considerarse sin valorar los desafíos y preocupaciones ante su instauración en nuestra práctica sanitaria y en nuestras vidas. A estos artículos remito para su reflexión. En nuestro blog hace tiempo que hablamos del valor de la IA en Face2Gene para la ayuda al diagnóstico de defectos congénitos y enfermedades raras y recientemente hemos analizado el omnipresente ChatGPT, actualmente en el ojo del huracán. 

ChatGPT y los nuevos retos de la inteligencia artificial

Una de las con conferencias magistrales del pasado 54 Congreso Nacional de Pediatría CONAPEME 2023 fue impartida por Prof. Melchor Sánchez Mendiola, pediatra y profesor de la UNAM, con amplio reconocimiento en el liderazgo en la innovación y calidad de la educación en Medicina. Su título fue el mismo que acompaña este post y comparto las notas tomadas de su exposición, y ello por la novedad, actualidad y dilema del tema. 

Se describe la Inteligencia Artificial (IA) como la habilidad de un sistema para interpretar correctamente datos externos, aprender de dichos datos y usar este aprendizaje para lograr metas específicas y tareas a través de adaptación flexible. Y de la IA se avanza hacia el aprendizaje profundo (Deep Learning), pues cualquier técnica que permita a los ordenadores imitar el componente humano y ese aprendizaje de máquinas (automático) avance hacia un aprendizaje profundo (capaz de extraer patrones de datos mediante redes neuronales). 

Y con la IA se ha avanzado al ChatGPT, un prototipo de chatbot de inteligencia artificial lanzado a finales de 2022 por OpenAI que se especializa en el diálogo, lo que hace que el ordenador simule la conversación con una persona. Para ello el chatbot se fundamenta en gran modelo de lenguaje, ajustado con técnicas de aprendizaje tanto supervisadas como de refuerzo y que reúne tres características, de ahí GPT: Generador (predice la siguiente palabra con sus grandes modelos de lenguaje LLM, Large Languaje Models), Pre-entrenado (entrenado previamente con grandes volúmenes de datos) y Transformador (codificador-decodificador basado en redes neurales). 

Cabe decir que ChatGPT ha conseguido los 100 millones de usuarios en tan solo dos meses, un récord en este mundo interconectado, y que cabe comparar con los 8 meses que tardó TikTok en conseguirlo o más de un año y medio en el caso de Instagram, que serían los dos siguientes en usabilidad. ChatGPT, cuyas siglas proceden del inglés Generative Pre-trained Transformer, tiene una calidad de conversación fundamentada en ser gramaticalmente correcta, sobre el tópico, con estilo académico y que suena plausible. 

Pero ChatGPT tiene múltiples limitaciones aún, como por ejemplo: 1) No entiende: porque es un modelo estadístico y los resultados son predicciones de la siguiente palabra, no se basan en reglas de razonamiento; 2) A menudo sesgado, porque el texto en el que se basa está sesgado y refleja el contenido en internet (que como sabemos está sesgado hacia países desarrollados, en inglés, ricos, hombres y blancos y, aunque se intenta corregir esto, es difícil mitigarlo); 3) A veces inventa datos, citas, frases… y si le pides fuentes a veces se niega a darlas o las inventa y no comprueba lo que no es real (solo predice qué palabras podrían ir juntas). 

Por ello, este producto de la IA debe conocerse y conocer las advertencias al mismo. El empresario Elon Musk, que fue uno de los fundadores de OpenAI y más de mil científicos alertaron sobre un posible "riesgo para la sociedad y la humanidad" y pidieron detener su durante seis meses por considerar que puede ser aún más peligroso que una guerra nuclear. Y el propio Noam Chomsky ha llegado a afirmar en The New York Times: “Dada la amoralidad, falsa ciencia e incompetencia lingüística de estos sistemas solo podemos reír o llorar ante su popularidad” y de nuevo Elon Musk ha llegado a afirmar que “ChatGPT es aterradoramente bueno. No estamos lejos de la IA peligrosamente fuerte”. 

Y en lugar de IA se aboga por utilizar quizás como más apropiado el término Inteligencia Aumentada, lo que quizás refleje con mayor precisión el propósito de estos sistemas cuya intención es coexistir con la toma de decisiones humanas. Y para ello debe ser sometido a una valoración crítica para satisfacer los mismos criterios de evidencia científica que los que se esperan de otras intervenciones clínicas. Y para ello, ya la propia revista NEJM anuncia la pronta llegada de una nueva revista, NEJM-IA, y la propia Universidad de McMaster publicó en JAMA en el año 2019 el artículo “How to Read Articles That Use Machine Learning. User´s Guide to the Medical Literature”. Y así poder comprobar sus aplicaciones, que incluyen: 1) simplificar o reemplazar tareas que impliquen análisis, síntesis y generación de testo; 2) permitir nuevos flujos de trabajo y modelos de atención; 3) mover las fronteras entre la pericia humana y la IA. 

Ya hay trabajos que demuestran que, al comparar el ChatGPT con la inteligencia humana, aquella no solo puede mejorar la calidad de las respuestas, sino incluso la empatía con nuestro paciente (y eso no sé si tranquiliza o ya asusta). Porque esa intención de que las máquinas piensen de forma similar a la humana, con habilidad para realizar decisiones similares a nosotros, ya está aquí…. 

Y, además, plantea un dilema en el panorama docente. Porque la mayoría del texto generado no es copiado, ya que los generadores de texto hacen predicciones palabra por palabra de lo que debería seguir, basándose en análisis estadístico de gran cantidad de texto en internet, aunque ocasionalmente incluirán una frase u oraciones copiadas de la fuente. Por tanto, la mayoría de los productos de ChatGPT pasan los análisis tradicionales de plagio. Los generadores de texto pueden ser percibidos como herramientas legítimas más que hacer trampa, como usar una calculadora para operaciones matemáticas o un corrector de gramática para escribir. Por ello es importante hacer explícitas las políticas sobre IA en las universidades y sistemas de salud, y seguir de cerca la evolución y disponibilidad de las herramientas que están surgiendo para identificar texto generado por IA. Y es así como, en los últimos meses, educadores de todo el mundo han estado explorando el potencial de ChatGPT y proponen algunas opciones para enfrentar la posibilidad de que los estudiantes hagan trampa o lo usen sin notificar al docente: escribir en clase en forma presencial; asignar pasos del proceso como anotación colaborativa, borradores, revisión por pares; pedirles que graben notas en audio o video sobre su escrito. 

En fin, todo un reto…