Panorama y retos de la IA generativa en los procesos asistenciales

Escrito por José Miguel Cacho
Lectura 7 minutos
13 de marzo 2024

La proliferación de tecnologías de IA generativa busca formar parte de los procesos asistenciales sin fricción y con efectividad, pero aún andamos escasos de evaluación y quizá estamos lejos de cómo será su integración definitiva.

Algo sobre la IA generativa (I): A

Resulta sorprendente y al mismo tiempo inquietante que no sepamos realmente cómo funcionan los modelos masivos de lenguaje (LLM) basados en redes neuronales / machine learning.

Un artículo intenta explicar esta paradoja. Y nos presenta el término “grokking”, que es la capacidad de un modelo de ir más allá del conocimiento adquirido en los datos de entrenamiento, para generalizar y aplicar ese conocimiento a situaciones nuevas.

Desde hace un tiempo a los investigadores les llamaron la atención esas habilidades emergentes de las nuevas versiones de los modelos LLM, que conseguían algo nuevo sin que se le hubiera enseñado explícitamente, como por ejemplo adivinar títulos de películas utilizando solo emojis.

Sirva este preámbulo para mirar con esperanza pero también con precaución el uso de los modelos masivos de lenguaje en la actividad sanitaria.


Algo sobre la IA generativa (I): B

A finales de febrero, coincidiendo con el MWC24el Sistema de Salut de Catalunya anunció un proyecto para recoger las conversaciones entre médico y paciente, y convertirlas en notas clínicas estructuradas utilizando el sistema Relisten de Recog Analytics basado en IA ambiental.

La “inteligencia ambiental” es un término tecnológico del cual ya he hablado y que consiste en utiliza sensores “contactless” y dispositivos portátiles en el entorno físico de las personas para recopilar datos (imágenes, audios, etc.) y que junto con algoritmos de aprendizaje automático, estos datos se interpreten de manera eficiente.

En este caso, es un proyecto que utiliza un software basado en IA conversacional que facilita el reconocimiento de voz y hace más ágiles los flujos de trabajo de documentación aplicado a las notas clínicas.

“Imagina un futuro donde las notas clínicas se generan automáticamente, sin necesidad de escribir una sola palabra durante la consulta”.

El producto, afirman, no solo reduce la carga administrativa de escritura, sino que también ofrece:

  • Mayor precisión en las notas clínicas. La colaboración de la IA con el médico consigue que las notas finales sean más completas y estructuradas, y por lo tanto más precisa y usable para el futuro.
  • Acceso inmediato a las notas. Las notas clínicas se generan en tiempo real, lo que te permite compartirlas con el paciente y mejorar la comunicación.
  • Más tiempo para el paciente al reducir la carga administrativa.

Algo sobre la IA generativa (I): C

Aunque parezca que este es un ejemplo de lo que tendremos en el futuro, no está claro cómo encajarán estas herramientas en el entorno clínicoUn estudio señala el camino hacia un futuro en el que los médicos y la IA generativa colaboren para mejorar los resultados de los pacientes. Esta colaboración parte de la voluntad de los profesionales de trabajar de forma colaborativa, y en el estudio condujo a una “mejora significativa” en la precisión de las decisiones clínicas.

Trabajar conjuntamente IA y profesionales podría definirse como “inteligencia aumentada” concepto que adoptó la American Medical Association pensando en una IA asistencial que mejore la inteligencia humana en lugar de reemplazarla.

The American Medical Association (AMA)

Pero, no olvidemos que en primer lugar, la IA a quién está cambiado es al sector tecnológico digital que tienen que ofrecer productos y soluciones basadas en inteligencia artificial, machine learning, IA generativa, etc. si quieren continuar siendo y pareciendo innovadores y actuales.


Algo sobre la IA generativa (I): C

Esta brutal aparición de la tecnología hace que el mercado esté inundado de productos basados en IA generativa para el sector de la salud.

El último en llegar es Salesforce con su Einstein Copilot: Health Actions, un asistente de IA conversacional que responde preguntas en función de los datos privados de la organización sanitaria.

Si damos un repaso rápido al mercado, nos encontramos con el ya veterano producto de AWS HealthScribe que crea automáticamente notas clínicas a partir de las conversaciones entre el paciente y el médico mediante IA generativa. Este producto acaba de asociarse con la plataforma DeepScribe.

El probablemente gran ganador momentáneo es DAX Copilot, que une la IA generativa de Microsoft (OpenIA) con la IA ambiental y conversacional de Nuance, para automatizar la documentación clínica.

DAX Copilot

Por su parte Google tiene la familia de modelos de IA generativa MedLM basados ​​en el modelo especializado de terminología médica Med-PaLM 2 y que por ejemplo están integrados en la aplicación Augmedix. Como suele ocurrir con estas grandes empresas, comienzan ofreciendo un producto que tiene una serie de funcionalidades y al testarlo se dan cuenta que no son las que necesitan sus clientes, y tienen que cambiar sus casos de uso.

MedLM comenzó respondiendo preguntas clínicas “sencillas” que no aportaban valor a los servicios de salud y después se reorientó a resolver problemas administrativos o logísticos.


Algo sobre la IA generativa (I): D

Como digo, el mercado se ha inundado de este tipo de soluciones. Sobre todo asistentes médicos que recogen las conversaciones, incluso virtuales, con los pacientes; las resumen, etiquetan y generan las notas clínicas; por ejemplo: SukiCortiNablaAbridge o HippocraticAI. Y otro ejemplo local recién nacido como Genesis de INVOX MedicaI.

Al menos estos productos intentan dar soluciones a problemas concretos, porque los analistas, puestos a imaginar, consideran que hay muchas aplicaciones para la IA generativa en el entorno sanitario.

La lista de acciones de mejora a los servicios sanitarios es interminable: resúmenes de todo tipo de información, diseño de planes de atención, generación de información para la continuidad asistencial, creación de información educativa para el paciente, ayuda en tareas administrativas, respuestas a reclamaciones, análisis de calidad de servicios, información de coberturas, gestión de autorizaciones, etc. etc. Y por supuesto, después tendríamos su uso clínico, de investigación, e incluso el descubrimiento de fármacos.


Algo sobre la IA generativa (I): E

Pero… antes de poner en marcha estos proyectos en el mundo real ¿no sería necesaria una validación sustancial de estos sistemasEstudios analizan los riesgos de estas tecnologías en el sector advirtiendo de aspectos como la confiabilidad, la responsabilidad, el sesgo algorítmico y la privacidad de los datos, así como los riesgos de seguridad relacionados con la confidencialidad, la integridad y la disponibilidad.

Cuando aún no conocemos bien los resultados de la implementación en ensayos controlados aleatorios que evalúan el apoyo a las decisiones clínicas basadas en IA “tradicional”, ya estamos planteando soluciones con la IA generativa.

To warrant clinical adoption AI models require a multi-faceted implementation evaluation

Y finalizo con el consejo de analizar detenidamente los casos de usos apropiados, a las organizaciones que estén pensando en comenzar proyectos de IAG. Y esta clara comparación.

Si utilizar la IA tradicional es como navegar por un mar con marejada en una embarcación muy moderna pero complicada de capitanear, con la IAG tenemos un barco más grande, más potente y un mar con fuerte temporal. Una organización que aún no está estable en lo primero tendrá, por supuesto, dificultades en lo segundo”.

Fuente: curaesalud.com

Sobre el autor

https://www.linkedin.com/in/josemiguelcacho/
Path Copy Created with Sketch.
X