Aplicaciones y retos de ChatGPT en la medicina de laboratorio

Introducción

La inteligencia artificial (IA) fue conceptualizada por primera vez en 1950 por la pregunta fundamental planteada por Alan Turing “¿Pueden pensar las máquinas?”, que sentó los fundamentos teóricos de este campo de conocimiento [1]. El término “inteligencia artificial” fue oficialmente acuñado en 1956 por John McCarthy et al. en la Conferencia de Dartmouth, dando así lugar al nacimiento de la IA como una disciplina científica propia [1].

La IA abarca un amplio espectro, desde la inteligencia artificial general (IAG), que trata de replicar la inteligencia humana, hasta la inteligencia artificial estrecha (IAE) o débil, centrada en tareas específicas. En un principio, la IA empleaba algoritmos basados en reglas, como las reglas “si … entonces”, siendo estos sistemas no adaptativos aún empleados actualmente en muchos entornos clínicos. Sin embargo, los avances tecnológicos han permitido desarrollar métodos más sofisticados de IA, entre los que se encuentran los algoritmos de aprendizaje automático (ML, del inglés, machine learning) y de aprendizaje profundo (DL, del inglés, deep learning), mejorando así el análisis de datos, el reconocimiento de imágenes y la predicción de enfermedades en el diagnóstico clínico.

Como resultado de la automatización gradual del laboratorio clínico, se generan a diario enormes volúmenes de datos de extrema complejidad, sobrepasando la capacidad de procesamiento del cerebro humano, y haciendo cada vez más necesaria la utilización de la IA. En el laboratorio clínico, la IA es capaz de analizar datos estructurados de gran calidad, lo que ha revolucionado los métodos diagnósticos [2]. Los modelos básicos de IA generativa simplifican los flujos de trabajo, mejoran la eficiencia y reducen los costes sanitarios, impulsado además la medicina personalizada, al permitir predecir el riesgo de enfermedades y sus resultados clínicos con mayor precisión. Así mismo, estos modelos de IA han mejorado la alfabetización en salud pública, empoderando a los pacientes al proporcionarles información sanitaria comprensible que les permite una mejor autogestión de sus enfermedades [3].

En los últimos años, el desarrollo de los grandes modelos de lenguaje (LLM, por sus siglas en inglés), como los transformadores pre-entrenados (GPT), BERT y el modelo de lenguaje Pathways (PaLM) ha tenido un gran impacto en diversos campos, entre los que se encuentran la generación de textos, la traducción automática y el diseño creativo de contenidos. Los LLM han revolucionado la interacción médico-paciente al simular las conversaciones humanas, lo que ha modificado los patrones de comunicación tradicionales en el campo de la salud [4]. Aunque los chatbots de IA pueden mejorar la alfabetización en salud, responder con rapidez a preguntas frecuentes sobre pruebas analíticas y ayudar a interpretar los resultados de las mismas, sus aplicaciones siguen encontrándose en fase inicial y los riesgos y dificultades asociados a los mismos precisan ser abordados [5], 6]. Cuando a los pacientes no se les proporciona con prontitud una explicación de los resultados de las pruebas analíticas, estos suelen recurrir a internet para buscar información, lo que puede derivar en desinformación y riesgos para la salud [7], [8], [9]. Además, el rendimiento de los diferentes modelos de chatbot varía significativamente, influenciado por factores como las configuraciones del modelo, la diversidad de las indicaciones y las metodologías de evaluación [10], [11], [12]. Los chatbots de IA tienen la capacidad de generar información aparentemente creíble pero imprecisa en realidad, por lo que es necesario que tanto los médicos como el personal del laboratorio sean conscientes de las ventajas y limitaciones de estas herramientas [13], 14].

El propósito de la presente revisión es realizar una síntesis de las ventajas y limitaciones de emplear chatbots en el laboratorio clínico, así como analizar las dificultades que esta práctica plantea y dar orientación para futuras investigaciones en el contexto del laboratorio clínico. Así mismo, proporcionamos algunas referencias de gran utilidad sobre el empleo de chatbots, dirigidas al personal de laboratorio, favoreciendo de esta forma la integración de la IA en la medicina.

Necesidades y estado actual de la inteligencia artificial

Los informes de medicina de laboratorio son determinantes en la toma de decisiones clínicas, ya que influyen de manera sustancial en el diagnóstico y elección de tratamientos, jugando un papel crucial en el manejo de los pacientes. Sin embargo, la complejidad de dichos informes suele hacer que estos resulten confusos para los legos en la materia, llevando a no pocos pacientes a buscar información en los chatbots cuando presentan problemas de salud. Algunos estudios señalan que el 78 % de los usuarios de ChatGPT tienden a emplearlo para realizar un autodiagnóstico, lo que subraya la significativa demanda existente de fuentes fiables de información sanitaria [15]. Según el estudio realizado por Giardina et al., el 46 % de los pacientes hacen uso de las búsquedas en internet para interpretar los resultados de sus pruebas analíticas, lo cual también refleja la dificultad que estos encuentran a la hora de evaluar la gravedad de los resultados [5]. La ausencia de información clara en un plazo razonable de tiempo puede agravar la preocupación y dificultad de los pacientes para interpretar los resultados. Así mismo, el estudio realizado por Kopanitsa revela una mayor probabilidad de que los pacientes que reciben explicaciones generadas automáticamente presenten una mejor adherencia al seguimiento (71 %), en comparación con aquellos a los que únicamente se les proporcionan los resultados de las pruebas (49 %). Los pacientes suelen apreciar la prontitud de dichas aclaraciones, lo que evidencia el enorme potencial de los nuevos métodos de comunicación para mejorar notablemente la experiencia del paciente, así como los resultados clínicos [16].

Se han observado características jerárquicas significativas en la percepción y aceptación de la IA por parte del personal clínico [17], [18], [19]. La mayoría de los encuestados abogan por el uso de la IA como una herramienta complementaria, valorando especialmente su utilidad para el análisis de datos. En las autoevaluaciones, los médicos más jóvenes (<45 años) evidencian un menor conocimiento de la IA en comparación con sus colegas, si bien manifiestan una mayor disposición hacia el aprendizaje continuo. Por otro lado, el nivel de formación es determinante en los niveles de ansiedad, ya que los pacientes con estudios superiores manifiestan una menor preocupación por los errores de la IA, debido a su mayor capacidad para comprender aspectos técnicos.

Cabe señalar que el personal de laboratorio muestra una profunda preocupación por la pérdida de empleos (32 %), frente aquellos que ocupan puestos de dirección que presentan una menor inquietud al respecto (25 %). Los modelos multimodales de IA pueden mitigar las limitaciones de alfabetización en IA del personal de laboratorio integrando diversos tipos de datos (p.ej. imágenes morfológicas, biomarcadores celulares, y parámetros bioquímicos) en un marco analítico unificado [20]. Los sistemas multimodales son capaces de combinar redes neuronales convolucionales (CNN, por sus siglas en inglés) para extraer las características espaciales de los frotis de sangre, con modelos basados en grafos para analizar las redes de interacción celular y con algoritmos de regresión para interpretar las tendencias en los parámetros bioquímicos [21], 22]. Esta integración evitaría tener que sintetizar manualmente los datos, automatizando tareas de elevada complejidad, como la identificación de células displásicas en la leucemia, y determinando la correlación entre las anomalías morfológicas y las alteraciones en los parámetros bioquímicos (p.ej. niveles elevados de lactato deshidrogenasa). Para mejorar la accesibilidad, se pueden integrar estos modelos en plataformas sencillas con interfaces intuitivas que incluyan funciones como cargar imágenes arrastrándolas y soltándolas y la generación automática de informes obviando complejidades técnicas. Así mismo, la incorporación de componentes de IA (XAI, por sus siglas en inglés) como los mapas de calor que resaltan características celulares esenciales o los resúmenes en lenguaje natural de correlaciones bioquímicas, permite al personal de laboratorio validar los resultados sin que ello requiera un elevado nivel de conocimientos técnicos. Al agilizar los flujos de trabajo y proporcionar información contextualizada, los modelos multimodales salvan la brecha entre las capacidades de la IA y las tareas prácticas de laboratorio, reforzando la confianza y la adopción de esta tecnología incluso entre aquellos con una formación limitada en IA.

Actualmente, las plantillas de los laboratorios cuentan con una formación en IA alarmantemente insuficiente, habiendo demostrado unas competencias sólidas en IA solo el 10,8 % de estos profesionales, siendo la proporción aún menor entre los informáticos de los hospitales terciarios, en comparación con los centros sanitarios privados. Estas diferencias notables quedan evidenciadas por el hecho de que el 89,7 % de los encuestados haya declarado necesitar urgentemente formación en IA. Sin embargo, el 47,2 % de los laboratorios encuentran dificultades significativas a la hora de implementar con eficacia las tecnologías de IA, principalmente debido a la falta de equipos de asistencia técnica adecuados [23].

Existen discrepancias significativas entre los agentes implicados, relativas a la asignación de responsabilidades en los errores médicos relacionados con el uso de IA [24], [25], [26]. Las encuestas indican que el 66,7 % de los encuestados abogan por una responsabilidad compartida entre los usuarios y los fabricantes, frente a algunos que consideran que toda la responsabilidad por los productos con fallos de diseño debería recaer exclusivamente sobre el fabricante. Los médicos se inclinan por asignar una responsabilidad compartida entre los fabricantes y las instituciones sanitarias, afirmando que los fabricantes deberían ser los que asuman la principal responsabilidad si las herramientas de IA han sido sometidas a un proceso riguroso de validación y cumplen con los requisitos de calidad aplicables [26], 27].

Integración de las interfaces HL7-FHIR/LIS y aspectos relacionados con la privacidad y la seguridad

Para conseguir una implementación práctica de los chatbots de IA en el laboratorio, es necesario integrarlos de forma sólida en la infraestructura existente, especialmente a través de interfaces estandarizadas como Health Level 7 Fast Healthcare Interoperability Resources (HL7-FHIR) y Laboratory Information Systems (LIS) [28], 29]. HL7-FHIR permite el intercambio interoperable de datos entre el modelo de IA y la base de datos del laboratorio, garantizando el acceso en tiempo real a los resultados estructurados de las pruebas, el historial de los pacientes, y los criterios diagnósticos [28], [29], [30], [31]. La interpretación de perfiles bioquímicos mediante la aplicación de la IA se podría mejorar a través de la comunicación bidireccional con los LIS, lo que permitiría generar alertas sobre valores críticos o realizar un análisis contextual de datos longitudinales [31]. Sin embargo, dicha integración requiere de la aplicación de robustos protocolos de ciberseguridad destinados a salvaguardar datos clínicos sensibles. Entre los requisitos básicos de confidencialidad y seguridad se encuentran el cifrado de extremo a extremo de las transmisiones de datos, controles de acceso por funciones que cumplan la legislación vigente, como el Reglamento General de Protección de Datos (RGPD) y la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA), así como la realización de auditorías periódicas destinadas a detectar posibles vulnerabilidades.

Aplicación de chatbots a la inteligencia artificial en la medicina de laboratorio

Actualmente, el empleo de la IA se ha extendido a disciplinas como la radiología, para el reconocimiento de imágenes, si bien su utilización en la medicina de laboratorio se encuentra en fase inicial. Esto se debe principalmente al hecho de que la interpretación de los informes de laboratorio implica un enorme número de variables cuantitativas y cualitativas, tales como los síntomas, el historial médico, y los resultados analíticos [32], lo cual exige una aún mayor complejidad y precisión de los modelos de IA. Desde el lanzamiento de ChatGPT en 2022, este ha atraído el interés de la comunidad médica, habiéndose realizado importantes estudios sobre su rendimiento en los exámenes de habilitación médica, su viabilidad a la hora de responder a las preguntas de los pacientes, y su capacidad para ayudar a los médicos en la resolución de problemas clínicos, evidenciado su potencial aplicación en la medicina de laboratorio [33], [34], [35].

Inconvenientes multidimensionales de los chatbots de salud en la práctica clínica

Aunque los chatbots fueron diseñados y presentados como herramientas conversacionales más que como herramientas para consultas sobre salud o de apoyo a la toma de decisiones clínicas, han demostrado poseer una capacidad asombrosa para detectar en interpretar alteraciones analíticas. Esta capacidad se evidencia en su eficacia para el procesamiento y análisis de grandes volúmenes de datos, una capacidad especialmente notable de los grandes modelos de lenguaje como ChatGPT. Sin embargo, dicho potencial se ve limitado por algunas deficiencias, especialmente porque estos modelos no han sido específicamente entrenados ni optimizados para su uso en la generación de informes de medicina de laboratorio.

La Ley de IA de la UE y la Guía de apoyo a la toma de decisiones clínicas de la FDA

La Ley de Inteligencia Artificial de la Unión Europea (Ley IA), vigente desde el 12 de julio de 2024, constituye el primer marco jurídico regulatorio integral de la IA, y prioriza el desarrollo ético, la protección de los derechos fundamentales, y la innovación centrada en las personas [65]. Adoptando un enfoque basado en los riesgos, la Ley clasifica los sistemas de IA en cuatro niveles: riesgo inaceptable (prohibido); riesgo elevado (p.ej. diagnóstico médico, sujeto a estrictos criterios de seguridad, transparencia y responsabilidad); IA general con riesgos sistémicos (obligación de transparencia); y riesgo bajo o sin riesgo (regulación mínima) [66]. En el ámbito de la salud, la estricta normativa sobre el uso de IA de riesgo elevado en contextos clínicos exige la realización de pruebas rigurosas, la mitigación de sesgos, y el seguimiento post-comercialización, aunque siguen persistiendo algunas lagunas en relación a los derechos de los pacientes y la responsabilidad sobre las aplicaciones de riesgo bajo. Entre las dificultades, se encuentran una implementación desigual entre los estados miembro, marcos de responsabilidad civil ambiguos, y limitaciones cambiantes a la hora de detectar contenido generado con IA [67]. La Ley también aborda aspectos relacionados con los derechos de protección de la IA, exigiendo transparencia sobre la utilización de datos de entrenamiento y salvaguardando la propiedad intelectual, aunque exceptúa la investigación anterior a la comercialización [66]. Se espera que esta Ley tenga un impacto en otros territorios similar al que tuvo la RGPD, remodelando las prácticas de IA a nivel mundial, y haciendo precisa una formación en ética de la IA. Con el fin de establecer un equilibrio entre la regulación y la innovación, la Ley de IA promueve el desarrollo de una IA fiable, pero exige unas guías más claras, la colaboración de todos los agentes implicados, y la implementación de normas sanitarias adaptadas, con el fin de garantizar el acceso a la IA en condiciones de igualdad y seguridad para los pacientes.

Hasta la fecha, la FDA no ha aprobado ningún modelo de LLM para la toma de decisiones clínicas. Se han realizado algunos estudios para evaluar si los LLM se pueden adherir a las regulaciones en el contexto de las urgencias médicas. Los resultados obtenidos revelan que, aunque las recomendaciones sobre prevención proporcionadas por los LLM son adecuadas, el 100 % de las respuestas de GPT-4 y el 52 % de las respuestas de Llama-3 no se ajustaban a un escenario de urgencias, ofreciendo un soporte comparable al de un dispositivo, al sugerir diagnósticos y tratamientos concretos [68]. Aunque los prompts estuvieran basados en la guía de la FDA, no se logró que se ajustara a ella de manera uniforme. Estos resultados evidencian la necesidad urgente de desarrollar nuevos marcos regulatorios que aborden la problemática que el empleo de IA generativa plantea en el ámbito de la salud, dado que las guías actuales resultan insuficientes a la hora de evitar que los LLM ofrezcan de manera no autorizada resultados que corresponderían a los de un dispositivo médico autorizado.

Establecimiento de un marco integral de evaluación para abordar las limitaciones de los chatbots de IA en el campo de la salud

A la luz de los riesgos que plantea el uso de chatbots de IA en la medicina, es imperativo desarrollar un marco integral de evaluación. El primer paso para garantizar la calidad de los resultados generados por la IA consiste en establecer unos criterios estrictos de evaluación que aborden la precisión, fiabilidad y relevancia de la información. Además, la evaluación periódica del rendimiento de los modelos permite identificar fallas del sistema, garantizando que todos los modelos de IA sean coherentes con la información más reciente en el campo de la medicina. Los mecanismos de retroalimentación, que reúnen información proporcionada por usuarios y profesionales, aportan datos de gran utilidad para la mejora continua de los modelos. La inclusión de mecanismos de revisión profesionales resulta igualmente crucial. La participación de médicos expertos mejora aún más la fiabilidad e integridad científica de los sistemas de IA, lo que garantiza que la información generada se ajuste a los criterios de ética y práctica médica.

Para tal fin, se han desarrollado diversas herramientas y guías para facilitar la evaluación y mejora de la calidad de la información en salud [69], [70], [71]. Sin embargo, las herramientas actuales de evaluación de información sanitaria no han sido adaptadas para evaluar específicamente la calidad de la información en salud generada por los modelos de IA. Para poder garantizar la fiabilidad y precisión de la IA en el campo de la medicina de laboratorio, es preciso disponer de herramientas de evaluación estandarizadas. Actualmente, las herramientas “METRICS’ y “CLEAR’” cuentan con amplia aceptación como métodos eficaces para evaluar información en salud generada mediante IA [72], 73].

La lista de comprobación METRICS proporciona un marco para diseñar y comunicar estudios estandarizados sobre IA, abarcando nueve temas clave: Modelo, Evaluación, Temporalidad, Rango, Aleatorización, Recuento, y Especificidad de las indicaciones y el lenguaje. Estos temas están orientados a analizar de manera exhaustiva el diseño y estado operativo de los modelos de IA, garantizando el rigor científico y la solidez de sus resultados. Por otro lado, la herramienta CLEAR se centra en la evaluación sistemática de múltiples dimensiones de contenido generado con IA, entre los que se incluyen cinco criterios clave: Integridad del contenido, Ausencia de información falsa en el contenido, Evidencia que respalde el contenido; Pertinencia del contenido, y Relevancia. En la Tabla 1 se detalla el significado concreto de cada criterio, mientras que la Tabla 2 ofrece a los evaluadores una guía clara para garantizar que el contenido generado con IA cumple unos criterios de calidad predefinidos.

Malik Sallam et al. evaluaron tres modelos de IA generativa (ChatGPT, Microsoft Bing, y Google Bard) mediante el empleo de la herramienta METRICS [72]. La puntuación total media de los tres modelos según METRICS fue de 3,0 (SD 0,58). Al analizar los criterios por separado, el criterio “Modelo” fue el que recibió una puntuación media más alta, seguido de “Especificidad”. Por otro lado, los criterios que obtuvieron puntuaciones más bajas fueron “Aleatorización” (clasificada como subóptima) y “Factores individuales” (clasificado como satisfactorio). En otro estudio, los cinco modelos de IA se evaluaron por separado empleando la herramienta CLEAR en relación a cinco temas diferentes [73]. Microsoft Bing fue el que obtuvo una puntuación CLEAR más alta (media 24,4±0,42), seguido de ChatGPT-4 (media: 23,6±0,96), Google Bard (media: 21,2±1,79), y finalmente de ChatGPT-3.5 (media: 20,6±5,20).

Si bien METRICS y CLEAR han facilitado la evaluación de contenidos generados con IA, también presentan algunas limitaciones (detalladas en las tablas 1 y 2). Por ejemplo, es posible que estas herramientas no abarquen todas las variables en contextos concretos o tengan una aplicación limitada en algunos campos especializados. Estas limitaciones precisan ser validadas en estudios que confirmen su efectividad y adecuación para su aplicación en la práctica. La identificación y resolución de dichas limitaciones nos permitiría mejorar la credibilidad de la información en salud generada con IA, lo que contribuiría a establecer una base sólida para la toma de decisiones clínicas (Figura 1).

Figura 1:

Diagrama de vantajes e inconvenientes.

La formación en medicina es un proceso que requiere tiempo y se actualiza lentamente, lo que dificulta que los estudiantes asimilen todos los aspectos esenciales. De este modo, los chatbots de IA presentan gran potencial como importantes herramientas auxiliares en la formación médica, lo que contribuye a cubrir lagunas en la adquisición de conocimientos. Sin embargo, la resolución creativa de problemas sigue siendo una capacidad exclusiva del ser humano. Para aprovechar al máximo el potencial de la IA en la medicina, resulta esenciar contar con la colaboración de los desarrolladores de IA y los profesionales de la medicina.

La medicina de laboratorio es un campo en rápida evolución, ya que surgen continuamente nuevas tecnologías y métodos analíticos que se van integrando en la práctica clínica. Si resolviéramos eficazmente las limitaciones de los chatbots de IA, estos se convertirían en herramientas indispensables para los facultativos y los técnicos de laboratorio en la práctica rutinaria. Superar las dificultades existentes podría redundar en una mayor precisión diagnóstica, una mejor calidad en la atención a los pacientes, y en la promoción de la medicina personalizada. La colaboración entre la IA y los médicos expertos humanos sentará las bases para el futuro desarrollo de la medicina de laboratorio.