La inteligencia artificial generativa está transformando las formas en que los humanos escriben, leen, hablan, piensan, empatican y actúan dentro y entre idiomas y culturas. En la atención médica, las brechas en la comunicación entre pacientes y profesionales pueden empeorar los resultados de los pacientes y prevenir mejoras en la práctica y la atención. La incubadora Language/AI, posible a través de la financiación del MIT Human Insight Collaborative (MITHIC), ofrece una respuesta potencial a estos desafíos.
El proyecto prevé una comunidad de investigación enraizada en las humanidades que fomentarán la colaboración interdisciplinaria en el MIT para profundizar la comprensión del impacto generativo de IA en la comunicación intercultural y intercultural. El enfoque del proyecto en la atención médica y la comunicación busca construir puentes en estratos socioeconómicos, culturales y lingüísticos.
La incubadora está dirigida por Leo Celi, un médico y director de investigación y científico de investigación senior del Instituto de Ingeniería Médica y Ciencia (IMES), y por Urlaub, profesor de la práctica en estudios alemanes y de segundo idioma y director del Programa Global Languages del MIT.
“La base de la prestación de atención médica es el conocimiento de la salud y la enfermedad”, dice Celi. “Estamos viendo malos resultados a pesar de las inversiones masivas porque nuestro sistema de conocimiento está roto”.
Una colaboración casual
Urlaub y Celi se conocieron durante un evento de lanzamiento de Mithic. Las conversaciones durante la recepción del evento revelaron un interés compartido en explorar mejoras en la comunicación médica y la práctica con la IA.
“Estamos tratando de incorporar la ciencia de datos en la prestación de atención médica”, dice Celi. “Hemos estado reclutando científicos sociales (en IMES) para ayudar a avanzar en nuestro trabajo, porque la ciencia que creamos no es neutral”.
El lenguaje es un mediador no neutral en la prestación de atención médica, cree el equipo, y puede ser una bendición o barrera para un tratamiento efectivo. “Más tarde, después de que nos conocimos, me uní a uno de sus grupos de trabajo cuyo enfoque era metáforas para el dolor: el lenguaje que usamos para describirlo y su medición”, continúa Urlaub. “Una de las preguntas que consideramos fue cómo la comunicación efectiva puede ocurrir entre médicos y pacientes”.
La tecnología, argumentan, impacta la comunicación casual, y su impacto depende tanto de los usuarios como de los creadores. A medida que AI y los modelos de idiomas grandes (LLM) obtienen potencia y prominencia, su uso se está ampliando para incluir campos como la atención médica y el bienestar.
Rodrigo Gameiro, médico e investigador del Laboratorio de Fisiología Computacional del MIT, es otro participante del programa. Señala que trabaja en los centros de laboratorio responsables de desarrollo e implementación de IA. Diseño de sistemas que aprovechan la IA de manera efectiva, particularmente cuando se consideran desafíos relacionados con la comunicación entre divisiones lingüísticas y culturales que pueden ocurrir en la atención médica, exige un enfoque matizado.
“Cuando construimos sistemas de IA que interactúan con el lenguaje humano, no solo estamos enseñando a las máquinas cómo procesar palabras; les estamos enseñando a navegar por la compleja red de significado integrada en el lenguaje”, dice Gameiro.
Las complejidades del lenguaje pueden afectar el tratamiento y la atención al paciente. “El dolor solo se puede comunicar a través de la metáfora”, continúa Urlaub, “pero las metáforas no siempre coinciden, lingüística y culturalmente”. Las caras sonrientes y las escalas de uno a 10 (herramientas de medición del dolor, los profesionales médicos de habla inglesa pueden usar para evaluar a sus pacientes) pueden no viajar bien a través de los límites raciales, étnicos, culturales y del idioma.
“La ciencia tiene que tener un corazón”
LLMS puede ayudar a los científicos a mejorar la atención médica, aunque existen algunos desafíos sistémicos y pedagógicos a considerar. La ciencia puede centrarse en los resultados con la exclusión de las personas a las que está destinado a ayudar, argumenta Celi. “La ciencia tiene que tener un corazón”, dice. “Medir la efectividad de los estudiantes contando la cantidad de documentos que publican o patentes que producen pierde el punto”.
El punto, dice Urlaub, es investigar cuidadosamente mientras reconoce simultáneamente lo que no sabemos, citando lo que los filósofos llaman humildad epistémica. El conocimiento, argumentan los investigadores, es provisional y siempre incompleto. Las creencias profundamente sostenidas pueden requerir revisión a la luz de nuevas pruebas.
“La visión mental de nadie del mundo está completa”, dice Celi. “Debe crear un entorno en el que las personas se sientan cómodas reconociendo sus prejuicios”.
“¿Cómo compartimos las preocupaciones entre los educadores de idiomas y otros interesados en la IA?” Urlaub pregunta. “¿Cómo identificamos e investigamos la relación entre los profesionales médicos y los educadores de idiomas interesados en el potencial de IA para ayudar en la eliminación de las brechas en la comunicación entre médicos y pacientes?”
El lenguaje, en la estimación de Gameiro, es más que una herramienta para la comunicación. “Refleja la cultura, la identidad y la dinámica del poder”, dice. En situaciones en las que un paciente podría no sentirse cómodo describiendo el dolor o la incomodidad debido a la posición del médico como autoridad, o porque su cultura exige ceder ante los percibidos como figuras de autoridad, los malentendidos pueden ser peligrosos.
Cambiar la conversación
La instalación de IA con lenguaje puede ayudar a los profesionales médicos a navegar estas áreas con más cuidado, proporcionando marcos digitales que ofrecen valiosos contextos culturales y lingüísticos en los que el paciente y el profesional pueden confiar en herramientas de investigación basadas en datos para mejorar el diálogo. Las instituciones necesitan reconsiderar cómo educan a los profesionales médicos e invitan a las comunidades que sirven en la conversación, dice el equipo.
“Necesitamos preguntarnos lo que realmente queremos”, dice Celi. “¿Por qué estamos midiendo lo que estamos midiendo?” Los prejuicios que traemos con nosotros a estas interacciones (médicos, pacientes, sus familias y sus comunidades) siguen siendo barreras para mejorar la atención, dicen Urlaub y Gameiro.
“Queremos conectar a las personas que piensan de manera diferente y hacer que AI funcione para todos”, continúa Gameiro. “La tecnología sin propósito es solo exclusión a escala”.
“Las colaboraciones como estas pueden permitir un procesamiento profundo y mejores ideas”, dice Urlaub.
Crear espacios donde las ideas sobre IA y la atención médica pueden convertirse potencialmente en acciones es un elemento clave del proyecto. La incubadora Language/AI organizó su primer coloquio en el MIT en mayo, que fue dirigido por Mena Ramos, un médico y cofundador y CEO del Global Ultrasonund Institute.
El coloquio también contó con presentaciones de Celi, así como Alfred Spector, un académico visitante en el Departamento de Ingeniería Eléctrica e Informática del MIT, y Douglas Jones, miembro del personal senior en el grupo de tecnología de lenguaje humano del Laboratorio MIT Lincoln. Se planea un coloquio de incubador de segundo idioma/IA para agosto.
Una mayor integración entre las ciencias sociales y las duras puede aumentar potencialmente la probabilidad de desarrollar soluciones viables y reducir los sesgos. Permitir cambios en la forma en que los pacientes y los médicos ven la relación, al tiempo que ofrecen cada propiedad compartida de la interacción, puede ayudar a mejorar los resultados. Facilitar estas conversaciones con IA puede acelerar la integración de estas perspectivas.
“Los defensores de la comunidad tienen voz y deben incluirse en estas conversaciones”, dice Celi. “La IA y el modelado estadístico no pueden recopilar todos los datos necesarios para tratar a todas las personas que los necesitan”.
Las necesidades de la comunidad y las oportunidades y prácticas educativas mejoradas deben combinarse con enfoques interdisciplinarios para la adquisición y transferencia de conocimiento. Las formas en que las personas ven las cosas están limitadas por sus percepciones y otros factores. “¿De quién es el idioma que estamos modelando?” Gameiro pregunta sobre la construcción de LLM. “¿Qué variedades de discurso están siendo incluidas o excluidas?” Dado que el significado y la intención pueden cambiar a través de esos contextos, es importante recordarlos al diseñar herramientas de IA.
“La IA es nuestra oportunidad de reescribir las reglas”
Si bien hay mucho potencial en la colaboración, existen serios desafíos que superar, incluido el establecimiento y la escala de los medios tecnológicos para mejorar la comunicación del proveedor del paciente con la IA, extendiendo oportunidades de colaboración a comunidades marginadas y desatendidas, y reconsiderando y renovando la atención de los pacientes.
Pero el equipo no está intimidado.
Celi cree que hay oportunidades para abordar la brecha amplia entre las personas y los profesionales al tiempo que aborda las brechas en la atención médica. “Nuestra intención es volver a colocar la cuerda que se ha cortado entre la sociedad y la ciencia”, dice. “Podemos empoderar a los científicos y al público para investigar el mundo juntos al tiempo que reconoce las limitaciones engendradas para superar sus prejuicios”.
Gameiro es un defensor apasionado de la capacidad de AI para cambiar todo lo que sabemos sobre la medicina. “Soy un médico, y no creo que esté siendo hiperbólico cuando digo que creo que la IA es nuestra oportunidad de reescribir las reglas de lo que el medicamento puede hacer y a quién podemos llegar”, dice.
“La educación cambia a los humanos de los objetos a los sujetos”, argumenta Urlaub, describiendo la diferencia entre observadores desinteresados y participantes activos y comprometidos en el nuevo modelo de atención que espera construir. “Necesitamos comprender mejor el impacto de la tecnología en las líneas entre estos estados del ser”.
Celi, Gameiro y Urlaub defienden cada uno de los espacios similares a los del mitic en la atención médica, lugares donde la innovación y la colaboración pueden ocurrir sin los tipos de puntos de referencia arbitrarios que las instituciones de referencia han utilizado anteriormente para marcar el éxito.
“La IA transformará todos estos sectores”, cree Urlaub. “Mithic es un marco generoso que nos permite adoptar la incertidumbre con flexibilidad”.
“Queremos emplear nuestro poder para construir la comunidad entre audiencias dispares mientras admite que no tenemos todas las respuestas”, dice Celi. “Si fallamos, es porque no pudimos soñar lo suficientemente grande sobre cómo podría verse un mundo reinventado”.
