Secret Mayo Clinic Arma secreta contra Halous Hallus

Aunque los modelos LLMS se vuelven más sofisticados y siempre capaces, todavía tienen alucinaciones: proporcionar información inexacta o, para ponerlos más crueles.

Esto puede ser especialmente dañino en áreas como la atención médica, donde la información incorrecta puede tener resultados duros.

Clínica de mayoY uno de los hospitales mejorados en los Estados Unidos, ha adoptado una nueva tecnología para abordar este desafío. Para lograr el éxito, el centro médico debe superar las fronteras de la generación de recuperación (trapo). Este es el proceso con el que los modelos LLMS retiran la información de las fuentes de datos relevantes específicas. El hospital utilizó lo que está principalmente subdesarrollado, ya que el formulario se extrae de la información relevante, luego conecta todos los datos al contenido de origen original.

Es sorprendente que esto haya llevado a la eliminación de todas las alucinaciones basadas en datos en casos no diagnósticos, lo que permite a Maya pagar el modelo a través de su práctica clínica.

«A través de este enfoque para referirse a la información fuente a través de los enlaces, la extracción de estos datos ya no es un problema», dijo Matthew Kulstrom, director médico de la estrategia de MIWA y jefe de radiología, para VentureBeat.

Una cuenta para cada punto de datos

Tratar con los datos de atención médica es un desafío complejo, y puede ser un sumidero de tiempo. Aunque se recopilan grandes cantidades de datos en los registros de salud electrónicos (EHR), los datos pueden ser muy difíciles de encontrarlos.

El primer uso de Mayo International para Amnistía Internacional para recopilar todos estos datos fueron resúmenes (visitar una desaparición con consejos posteriores al cuidado), con sus modelos usando una tela tradicional. Callstrom explicó, ese era un lugar natural para comenzar porque es una extracción y un resumen simples, que generalmente es superado por LLMS.

«En la primera etapa, no estamos tratando de alcanzar un diagnóstico, como puede preguntar a un modelo», ¿cuál es el mejor paso para este paciente en la actualidad? «.

El peligro de Halosa también era casi importante, ya que sería en los escenarios del asistente médico; No significa que los errores paquistaníes no fueran un tanque de cabeza.

Callstrom dijo: «En nuestras primeras repeticiones, tuvimos algunas alucinaciones divertidas de que no toleraría claramente: la edad incorrecta del paciente, por ejemplo», dijo Callstrom. «Entonces tienes que construirlo con cuidado».

Aunque RAG era un componente importante de la base LLMS (mejorando sus capacidades), la tecnología tiene sus límites. Los modelos pueden recuperar datos no relevantes, inexactos o de baja calidad; No pudo determinar si la información está relacionada con la cuestión humana; O crear salidas que no coincidan con los formatos requeridos (como un texto simple en lugar de un horario detallado).

Si bien hay algunas soluciones en estos problemas, como el gráfico, que se sabe que las fuentes de gráficos proporcionan contexto o trapo correctivo (garganta) El mecanismo de evaluación evalúa la calidad de los documentos que se han recuperado: las alucinaciones no han desaparecido.

Consulte cada punto de datos

Aquí es donde regresa un proceso de trapo. Específicamente, May se asocia con lo que se conoce como el nombre Asamblea usando actores (Tratamiento) Algoritmo con LLM y bases de datos de vectores para determinar la recuperación de datos duales.

El ensamblaje es necesario para el aprendizaje automático (ML) porque regula, clasifica y establece datos de grupos basados ​​en similitudes o patrones. Esto ayuda principalmente a los modelos «lógicos» para los datos. La cura excede el ensamblaje típico con una técnica jerárquica, utilizando las mediciones de distancia de los datos del grupo basados ​​en la proximidad (pensamiento: los datos están más cerca entre sí más relacionados con las relacionadas entre sí). El algoritmo tiene la capacidad de descubrir «valores extremistas» o puntos de datos que no coinciden con otros.

Combinando el tratamiento con el enfoque opuesto de RAG, la LLM de Mayo dividió los resúmenes que generó en hechos individuales, y luego los coincide con los documentos de origen. Luego, el segundo LLM registró el alcance de los hechos de los hechos con estas fuentes, específicamente si existe una relación causal entre los dos.

Callstrom dijo: «Cualquier punto de datos ha vuelto a la fuente original de laboratorio o un informe de fotografía», dijo Callstrom. «El sistema garantiza que las referencias se recuperen reales y se recuperen con precisión, y resuelven efectivamente la mayoría de las alucinaciones relacionadas con la recuperación».

Callstrom usó bases de datos de vectores para encontrar los registros de pacientes primero para que el modelo pueda recuperar rápidamente la información. Inicialmente utilizó una base de datos local para probar el concepto (POC); La versión de producción es una base de datos general con lógica en el algoritmo de tratamiento en sí.

«Los médicos son muy escépticos y quieren asegurarse de que no sean alimentados con confianza», explicó Callstrom. «Así que la confianza para nosotros significa verificar cualquier cosa que pueda aparecer como un contenido».

«Interés inexacto» a través de la práctica de mayo

La técnica de tratamiento también ha demostrado ser útil para recopilar nuevos registros de pacientes. Callstrom explicó que los registros externos que separan los problemas complejos de los pacientes pueden contener «procesos» del contenido de datos en diferentes formatos. Esto debe revisarse y resumirse para que los médicos puedan identificarse antes de ver al paciente por primera vez.

Él dijo: «Siempre describo los registros médicos externos como una hoja de cálculo: no tienes idea de lo que hay en cada celda, tienes que mirar cada uno para retirar el contenido».

Pero ahora, LLM realiza extracción, clasifica el material y crea una visión general del paciente. Por lo general, esta tarea puede tomar 90 minutos más o menos del practicante, pero Amnistía Internacional puede hacerlo en aproximadamente 10, dijo Callstrom.

Describió el «interés sorprendente» en la expansión de la capacidad de practicar May para ayudar a reducir la carga administrativa y la frustración.

«Nuestro objetivo es simplificar el procesamiento de contenido: ¿cómo puedo aumentar las capacidades y simplificar el trabajo del médico?» Dijo.

Tratando problemas más complicados con la inteligencia artificial

Por supuesto, Callstrom y su equipo ve un gran potencial para Amnistía Internacional en áreas más avanzadas. Por ejemplo, colaboraron con sistemas cerebrales para construir un modelo genético que predice cuál será el mejor tratamiento para la artritis del paciente, y también trabajan con Microsoft para cifrar imágenes y un modelo de base de fotografía.

El primer proyecto de fotografía con Microsoft son las rayas x en el cofre. Hasta ahora han transferido 1.5 millones de rayos x y planearon hacer otros 11 millones de personas en la próxima ronda. Callstrom explicó que no es muy difícil construir imágenes de cifrado; La complejidad es hacer que las imágenes resultantes ya sean útiles.

Idealmente, los objetivos son simplificar la forma en que los médicos de Mayo muestran el tórax X -Rays y aumentar sus análisis. Amnistía Internacional, por ejemplo, puede determinar el lugar donde deben ingresar a un tubo en la tráquea o línea central para ayudar a los pacientes a respirar. «Pero esto podría ser mucho más amplio», dijo Callstrom. Por ejemplo, los médicos pueden abrir el contenido y otros datos, como una predicción simple para romper la expulsión, o la cantidad de sangre que bombea del corazón, de las rayas x en el cofre.

«Ahora puede comenzar a pensar en la respuesta de predicción al tratamiento a mayor escala», dijo.

Mayo también ve una «oportunidad increíble» en el genoma (estudio de ADN), así como otras áreas «ómicas», como las proteínas (estudio de proteínas). La inteligencia artificial puede apoyar las copias de los genes, o el proceso de copiar la secuencia de ADN, para crear puntos de referencia para otros pacientes y ayudar a construir un perfil de riesgo o vías de tratamiento para enfermedades complejas.

«Por lo tanto, básicamente dibuja pacientes contra otros pacientes, construye a cada paciente alrededor de un grupo», explicó Callstrom. «Esto es lo que realmente proporcionará la medicina personal:» Te parecen a estos otros pacientes, así es como debemos lidiar para ver los resultados esperados «.

Pero Callstrom enfatizó que todo en el lado del diagnóstico requiere más trabajo. Una cosa es demostrar que el modelo de Genome Foundation funciona en la artritis reumatoide; Es la última verificación de esto en un entorno clínico. Los investigadores deben comenzar a probar pequeñas colecciones de datos, luego expandir gradualmente los grupos de prueba y comparar el tratamiento tradicional o estándar.

«No vas de inmediato», oye, saltemos metotoxita «(famosos medicamentos de artritis reumatoide), indicó.

En última instancia: «Somos conscientes de la sorprendente capacidad de estos (modelos) para transformar realmente cómo nos preocupamos por los pacientes y el diagnóstico de manera significativa, para obtener más atención al paciente o al paciente para el tratamiento estándar», dijo Callstrom. «Los datos complejos con los que tratamos en la atención al paciente es donde nos enfocamos».