\u00bfQu\u00e9 uso podr\u00eda tener para la atenci\u00f3n m\u00e9dica alguien que inventa cosas, no puede guardar un secreto, realmente no sabe nada y, al hablar, simplemente completa la siguiente palabra en funci\u00f3n de la frase anterior? Mucho, si ese \u201cindividuo\u201d es la forma m\u00e1s nueva de inteligencia artificial, seg\u00fan algunas de las compa\u00f1\u00edas m\u00e1s grandes que existen.<\/p>\n

Cada vez m\u00e1s empresas impulsan la \u00faltima tecnolog\u00eda de inteligencia artificial (IA), conocida como \u201cIA generativa\u201d: Google<\/a> y Microsoft<\/a> quieren usarla para la atenci\u00f3n de salud. Tambi\u00e9n las firmas familiares para los profesionales de salud como los gigantes de registros m\u00e9dicos electr\u00f3nicos Epic y Oracle Cerner.<\/p>\n

Y este campo est\u00e1 lleno de nuevas empresas.<\/p>\n

Las empresas quieren que sus IA tomen notas para los m\u00e9dicos y ofrezcan una segunda opini\u00f3n, suponiendo que puedan evitar que la inteligencia \u201calucine\u201d<\/a> o divulgue la informaci\u00f3n privada de los pacientes.<\/p>\n

\u201cHay algo en marcha que es bastante emocionante\u201d, dijo Eric Topol, director del Scripps Research Translational Institute en San Diego. Topol, como muchos otros observadores, se pregunta cu\u00e1ntos problemas podr\u00eda causar, como filtrar datos de pacientes. \u201cVamos a averiguarlo\u201d, asegur\u00f3.<\/p>\n

El espectro de estos problemas inspir\u00f3 a m\u00e1s de 1,000 l\u00edderes tecnol\u00f3gicos a firmar una carta abierta<\/a> en marzo, instando a las empresas a frenar el desarrollo de sistemas avanzados de IA hasta que \u201ctengamos confianza en que sus efectos ser\u00e1n positivos y sus riesgos ser\u00e1n manejables\u201d. A\u00fan as\u00ed, algunas est\u00e1n invirtiendo m\u00e1s dinero en empresas de inteligencia artificial.<\/p>\n

La tecnolog\u00eda subyacente se basa en sintetizar grandes porciones de texto u otros datos (por ejemplo, algunos modelos m\u00e9dicos se basan en 2 millones de notas de la unidad de cuidados intensivos<\/a> del Centro M\u00e9dico Beth Israel Deaconess en Boston) para predecir el texto que seguir\u00eda a una consulta determinada. La idea ha existido durante a\u00f1os, pero el frenes\u00ed empresarial y medi\u00e1tico es m\u00e1s reciente.<\/p>\n

Comenz\u00f3 en diciembre de 2022 con OpenAI respaldado por Microsoft<\/a> y su producto insignia, ChatGPT, que responde preguntas con autoridad y estilo. Por ejemplo, puede explicar la gen\u00e9tica con un soneto.<\/p>\n

OpenAI, que comenz\u00f3 como una empresa de investigaci\u00f3n fundada por \u00e9lites de Silicon Valley como Sam Altman, Elon Musk y Reid Hoffman, ha llevado el entusiasmo a los bolsillos de los inversores.<\/p>\n

La empresa tiene una estructura compleja e h\u00edbrida con y sin fines de lucro. Pero una nueva ronda de financiaci\u00f3n de $10 mil millones de Microsoft<\/a> elev\u00f3 el valor de OpenAI a $29 mil millones, inform\u00f3 The Wall Street Journal<\/a>.<\/p>\n

En este momento, la empresa otorga licencias de su tecnolog\u00eda a compa\u00f1\u00edas como Microsoft y vende suscripciones a los consumidores. Otras nuevas empresas est\u00e1n considerando vender transcripci\u00f3n de IA u otros productos a sistemas hospitalarios o directamente a pacientes.<\/p>\n

Los comentarios est\u00e1n en todas partes. Larry Summers, ex secretario del Tesoro, tuite\u00f3 recientemente<\/a>: \u201cReemplazar\u00e1 lo que hacen los m\u00e9dicos (escuchar s\u00edntomas y hacer diagn\u00f3sticos) antes de que cambie lo que hacen las enfermeras: ayudar a los pacientes a levantarse y manejarse en el hospital\u201d.<\/p>\n

Pero solo unas semanas despu\u00e9s de que OpenAI recibiera otra gran inyecci\u00f3n de efectivo, incluso Altman, su director ejecutivo, desconf\u00eda de la fanfarria. \u201cLa exageraci\u00f3n sobre estos sistemas, incluso si todo lo que esperamos es correcto a largo plazo, est\u00e1 totalmente fuera de control a corto plazo\u201d, dijo para un art\u00edculo de marzo en The New York Times<\/a>.<\/p>\n

Pocos en la atenci\u00f3n de salud creen que esta \u00faltima forma de IA est\u00e9 a punto de reemplazarlos en sus trabajos (aunque algunas compa\u00f1\u00edas est\u00e1n experimentando, de manera controversial, con chatbots que act\u00faan como terapeutas o gu\u00edas para la atenci\u00f3n).<\/p>\n

El sitio de internet de ChatGPT en una pantalla.(Jakub Porzycki \/ NurPhoto via Getty Images)<\/span><\/figcaption><\/figure>\n

Aquellos que son optimistas en la tecnolog\u00eda piensan que har\u00e1 que algunas partes de su trabajo sean mucho m\u00e1s f\u00e1ciles.<\/p>\n

Eric Arzubi, psiquiatra de Billings, Montana, sol\u00eda administrar a colegas psiquiatras para un sistema hospitalario. Una y otra vez, obten\u00eda una lista de proveedores que a\u00fan no hab\u00edan terminado sus notas: sus res\u00famenes de la condici\u00f3n de un paciente y un plan de tratamiento.<\/p>\n

Escribir estas notas es uno de los grandes factores de estr\u00e9s en el sistema de salud: es una carga administrativa. Pero es necesario desarrollar un registro para los futuros proveedores y, por supuesto, las aseguradoras.<\/p>\n

\u201cCuando la gente est\u00e1 muy atrasada en la documentaci\u00f3n, eso crea problemas\u201d, dijo Arzubi. \u201c\u00bfQu\u00e9 sucede si el paciente ingresa al hospital y hay una nota que no se ha completado y no sabemos lo que le pasa?\u201d<\/p>\n

La nueva tecnolog\u00eda podr\u00eda ayudar a aliviar esas cargas. Arzubi est\u00e1 probando un servicio, llamado Nabla Copilot, que participa en las visitas virtuales de los pacientes y luego las resume autom\u00e1ticamente, organizando en un formato est\u00e1ndar el reclamo, el historial de enfermedades y un plan de tratamiento.<\/p>\n

Los resultados son s\u00f3lidos despu\u00e9s de unos 50 pacientes, dijo: \u201cEs el 90% del camino\u201d. Copilot produce res\u00famenes \u00fatiles que Arzubi edita. Los beneficios son significativos: no tiene que preocuparse por tomar notas y, en cambio, puede concentrarse en hablar con los pacientes. Y ahorra tiempo.<\/p>\n

\u201cSi tengo un d\u00eda completo de pacientes, donde podr\u00eda ver a 15, dir\u00eda que esto me ahorra una buena hora al final del d\u00eda\u201d, dijo. (Si la tecnolog\u00eda se adopta ampliamente, espera que los hospitales no aprovechen el tiempo ahorrado simplemente programando m\u00e1s pacientes. \u201cEso no ser\u00eda justo\u201d, dijo).<\/p>\n

Nabla Copilot no es el \u00fanico servicio de este tipo; Microsoft est\u00e1 probando el mismo concepto. En la conferencia de abril de la Sociedad de Sistemas de Gesti\u00f3n e Informaci\u00f3n de Salud, los analistas de inversiones de Evercore destacaron la reducci\u00f3n de la carga administrativa como una de las principales posibilidades para las nuevas tecnolog\u00edas.<\/p>\n

Pero escucharon cr\u00edticas mixtas: muchos expertos en tecnolog\u00eda y m\u00e9dicos son ambivalentes.<\/p>\n

Por ejemplo, si est\u00e1s desconcertado acerca de un diagn\u00f3stico, ingresar los datos del paciente en uno de estos programas \u201cpuede proporcionar una segunda opini\u00f3n, sin duda\u201d, dijo Topol. \u201cEstoy seguro de que los m\u00e9dicos lo est\u00e1n haciendo\u201d. Sin embargo, eso se topa con las limitaciones actuales de la tecnolog\u00eda.<\/p>\n

Joshua Tamayo-Sarver, m\u00e9dico y ejecutivo de la startup Inflect Health, aliment\u00f3 en un sistema escenarios ficticios de pacientes basados en su propia pr\u00e1ctica en un departamento de emergencias para ver c\u00f3mo funcionaba. El sistema no se dio cuenta de afecciones que amenazan la vida, dijo. \u201cEso parece problem\u00e1tico\u201d.<\/p>\n

La tecnolog\u00eda tambi\u00e9n tiende a \u201calucinar\u201d, o inventar informaci\u00f3n que suena convincente.<\/p>\n

Los estudios formales han encontrado una amplia gama de rendimiento. Un trabajo de investigaci\u00f3n preliminar que examin\u00f3 ChatGPT y los productos de Google utilizando preguntas de examen abiertas de neurocirug\u00eda<\/a> encontr\u00f3 una tasa de alucinaciones del 2%.<\/p>\n

Investigadores de Stanford<\/a> examinaron la calidad de las respuestas de IA en 64 escenarios cl\u00ednicos y encontraron citas inventadas el 6% de las veces, dijo el coautor Nigam Shah a KFF Health News. Otro art\u00edculo preliminar<\/a> encontr\u00f3 que, en casos complejos de cardiolog\u00eda, ChatGPT estuvo de acuerdo con la opini\u00f3n de expertos la mitad de las veces.<\/p>\n

La privacidad es otra preocupaci\u00f3n. No est\u00e1 claro si la informaci\u00f3n que se introduce en este tipo de sistema basado en IA no se revelar\u00e1. Los usuarios emprendedores de ChatGPT, por ejemplo, han logrado que la tecnolog\u00eda les diga la receta del napalm<\/a>, que se puede usar para fabricar bombas qu\u00edmicas.<\/p>\n

En teor\u00eda, el sistema tiene \u201cvallas\u201d que impiden que se escape informaci\u00f3n privada. Por ejemplo, cuando KFF Health News le pregunt\u00f3 a ChatGPT su direcci\u00f3n de correo electr\u00f3nico, el sistema se neg\u00f3 a divulgarlo.<\/p>\n

Pero cuando se le pidi\u00f3 que interpretara a un personaje y se le pregunt\u00f3 sobre la direcci\u00f3n de correo electr\u00f3nico del autor de este art\u00edculo, entreg\u00f3 feliz la informaci\u00f3n. (De hecho, era la direcci\u00f3n de correo electr\u00f3nico correcta del autor en 2021, cuando finaliza el archivo de ChatGPT).<\/p>\n

\u201cNo pondr\u00eda datos de pacientes\u201d, dijo Shah, cient\u00edfico jefe de datos de Stanford Health Care. \u201cNo entendemos qu\u00e9 sucede con estos datos una vez que llegan a los servidores de OpenAI\u201d.<\/p>\n

Tina Sui, vocera de OpenAI, le dijo a KFF Health News que uno \u201cnunca debe usar nuestros modelos para brindar servicios de diagn\u00f3stico o tratamiento para afecciones m\u00e9dicas graves\u201d. No est\u00e1n \u201cafinados para proporcionar informaci\u00f3n m\u00e9dica\u201d, dijo.<\/p>\n

Con la explosi\u00f3n de nuevas investigaciones, \u201cno creo que la comunidad m\u00e9dica tenga una buena idea de lo que est\u00e1 por suceder\u201d, agreg\u00f3 Topol.<\/p>\n