La Administración de Alimentos y Medicamentos de EE. UU. (FDA, por sus siglas en inglés) ha arrojado luz sobre la posibilidad de utilizar inteligencia artificial (IA) y lenguaje máquina (ML) en el proceso de desarrollo de fármacos, señalando los beneficios que aportan estas tecnologías, como versiones digitales de pacientes humanos.
«El crecimiento del volumen de datos y la complejidad de la IA/ML, combinado con la potencia informática de vanguardia y los avances metodológicos, tienen el potencial de transformar la forma en que las partes interesadas desarrollan, fabrican, utilizan y evalúan las terapias. En última instancia, la IA/ML puede ayudar a llevar tratamientos seguros, eficaces y de alta calidad a los pacientes con mayor rapidez», afirmó la FDA en un posteo publicado el 10 de mayo. El aprendizaje automático, un subconjunto de la IA, es el desarrollo de ordenadores que aprenden y se adaptan mediante algoritmos y modelos, sin instrucciones explícitas, para imitar el aprendizaje humano.
La agencia señaló que la IA/ML podría utilizarse para predecir qué personas responderían mejor a los tratamientos y quiénes correrían más riesgo de sufrir efectos secundarios. Los chatbots conversacionales de IA podrían utilizarse para responder a las preguntas de la gente sobre su participación en ensayos clínicos.
Se pueden desarrollar «gemelos» digitales o informáticos de un paciente para modelar una intervención médica que proporcione información sobre el tratamiento antes incluso de que el paciente lo reciba, señaló la FDA.
En 2021, más de 100 solicitudes de fármacos y productos biológicos presentadas a la agencia tenían componentes de IA/ML.
Si bien destacó los beneficios de estas tecnologías, la FDA también admitió que existen «desafíos» involucrados en el uso de AI / ML en el desarrollo de medicamentos. Esto incluye preocupaciones éticas, riesgos de ciberseguridad e intercambio inadecuado de datos.
«También hay preocupaciones con el uso de algoritmos que tienen un grado de opacidad, o algoritmos que pueden tener operaciones internas que no son visibles para los usuarios u otras partes interesadas. Esto puede conducir a la amplificación de errores o sesgos preexistentes en los datos», dijo la FDA.
Asesinos químicos
Así como la IA permite albergar esperanzas sobre el desarrollo de fármacos, también abre la posibilidad de crear toxinas. Este problema fue sacado a la luz por un equipo de científicos que trabajan en la empresa Collaborations Pharmaceuticals, con sede en Carolina del Norte.
El equipo entrenó a una IA con un conjunto de moléculas que incluían toxinas medioambientales y pesticidas. La IA debía calcular cómo adaptar las moléculas para que fueran más letales.
En sólo seis horas, la IA produjo 40,000 moléculas potencialmente letales. Entre ellas, un agente nervioso prohibido llamado VX que se utilizó para asesinar al hermanastro del líder norcoreano Kim Jong Un.
En una entrevista concedida al FT, Filippa Lentzos, codirectora del Centro de Estudios de Ciencia y Seguridad del King’s College de Londres, afirma que cuando el fundador de la empresa presentó los resultados en una conferencia, el público se quedó estupefacto.
«Todos pensaron: ‘Esto es horrible. ¿Qué hacemos ahora? El potencial de uso indebido siempre ha sido motivo de preocupación en las ciencias de la vida. Pero con la IA, ese potencial se dispara», afirma.
Discriminación algorítmica, empresas farmacéuticas de IA
En la publicación del 10 de mayo, la FDA también expresaba su preocupación por la «discriminación algorítmica», que se produce cuando los sistemas automatizados «favorecen a una categoría de personas en detrimento de otra(s)». Además, la agencia pretende «avanzar en la equidad» al utilizar técnicas de IA/ML.
En un documento (pdf) titulado «Uso de la inteligencia artificial y el aprendizaje automático en el desarrollo de fármacos y productos biológicos», la FDA afirma que la IA/ML podría utilizarse para mejorar la «equidad sanitaria».
Según el documento, la IA/ML puede utilizarse para extraer una gran cantidad de datos de ensayos clínicos y otras fuentes con el fin de emparejar a las personas con los ensayos. Sin embargo, esto también plantea la cuestión de la representación, señala.
«Aunque estos algoritmos se entrenan con grandes volúmenes de datos de pacientes y criterios de inscripción de ensayos anteriores, es importante garantizar una representación adecuada de las poblaciones que probablemente utilicen el fármaco (por ejemplo, sexo, raza y etnia) a medida que se crean los algoritmos de emparejamiento y, cuando se utilizan, para confirmar que se logró una inclusión equitativa durante el proceso de reclutamiento».
En la actualidad, hay un par de centenares de empresas dedicadas a este sector. Un informe de McKinsey de octubre identificó casi 270 empresas que trabajan en el sector del descubrimiento de fármacos impulsado por la IA. Más del 50% de estas empresas estaban ubicadas en Estados Unidos. McKinsey identificó el Sudeste Asiático y Europa Occidental como «centros clave» emergentes.
«El número de empresas impulsadas por la IA con su propia cartera de proyectos sigue siendo relativamente pequeño hoy en día (aproximadamente el 15 por ciento tiene un activo en desarrollo preclínico)», dijo.
«Las que tienen nuevas entidades moleculares (NME) en desarrollo clínico (Fase I y II) tienen predominantemente activos en licencia o han desarrollado activos utilizando técnicas tradicionales».
Posturas encontradas
A diferencia de otros campos de la ciencia, el desarrollo de la inteligencia artificial suscita posturas muy encontradas: algunos expertos abogan por esta tecnología, mientras que otros advierten contra su uso y progreso.
Según el secretario de Sanidad británico, Steve Barclay, la tecnología basada en la IA puede mejorar y agilizar la atención a los ancianos y, al mismo tiempo, reducir la carga de trabajo de los profesionales sanitarios.
«Creo que hay espacio para observar lo que funciona en otros sistemas sanitarios. ¿Tenemos la humildad de aprender de ello y ver qué podemos adoptar? Puede que haya espacio para hacerlo en el ámbito de los robots, pero también en el de la inteligencia artificial», dijo en una entrevista con The Telegraph.
«Si nos fijamos en los ejemplos de Japón, puede que se trate de robótica o de inteligencia artificial, pero también de otras áreas en las que la tecnología está ayudando a los pacientes en sus propios hogares y a evitar algunas de esas visitas a los servicios de urgencias, porque una vez que los ancianos ingresan en el hospital, a menudo acaban permaneciendo en él durante un periodo de tiempo considerable».
En el extremo opuesto del espectro de la IA, Eliezer Yudkowsky, teórico de la toma de decisiones y destacado investigador de la IA, predice que, en ausencia de una preparación meticulosa, la IA tendrá exigencias muy diferentes a las de los humanos y, una vez que sea consciente de sí misma, «no se preocupará por nosotros» ni por ninguna otra vida sensible. «Ese tipo de cuidado es algo que, en principio, podría imbuirse en una IA, pero no estamos preparados y actualmente no sabemos cómo». Esta es la razón por la que pide el cierre absoluto.
Sin un enfoque humano de la vida, la IA simplemente considerará que todos los seres sensibles están «hechos de átomos que puede utilizar para otra cosa». Y poco podrá hacer la humanidad para impedirlo. Yudkowsky comparó el escenario con «un niño de 10 años intentando jugar al ajedrez contra Stockfish 15». Ningún ajedrecista humano ha sido capaz aún de vencer a Stockfish, lo que se considera una hazaña imposible.
El veterano del sector pidió a los lectores que imaginaran la tecnología de la IA como algo que no está contenido dentro de los confines de Internet.
«Visualicen toda una civilización alienígena, pensando a velocidades millones de veces superiores a las humanas, confinada inicialmente a los ordenadores, en un mundo de criaturas que son, desde su perspectiva, muy estúpidas y muy lentas».
La IA expandirá su influencia fuera de la periferia de las redes físicas y podría «construir formas de vida artificial» utilizando laboratorios donde se produzcan proteínas a partir de cadenas de ADN.
El resultado final de construir una IA todopoderosa, en las condiciones actuales, sería la muerte de «todos y cada uno de los miembros de la especie humana y de toda la vida biológica de la Tierra», advirtió.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
