Los científicos han desarrollado un sistema de inteligencia artificial capaz de leer los pensamientos de las personas midiendo la actividad cerebral y convirtiéndola en texto, un desarrollo que genera preocupaciones sobre la privacidad y la libertad.
El estudio (pdf), publicado en la revista Nature Neuroscience el 1 de mayo, utilizó un modelo de transformador, similar al que impulsa el chatbot de inteligencia artificial ChatGPT de OpenAI, para decodificar los pensamientos de las personas. Un modelo transformador es una red neuronal que aprende el contexto y, por lo tanto, el significado. Los sujetos de prueba escucharon inicialmente horas de podcasts y se registró la actividad cerebral. Luego, los investigadores entrenaron al decodificador en estas grabaciones. Más tarde, los sujetos escucharon una nueva historia o imaginaron contar una historia, lo que permitió que el decodificador generara el texto correspondiente mediante el análisis de la actividad cerebral.
Los investigadores entrenaron a los decodificadores en tres temas. “Debido a que nuestro decodificador representa el lenguaje utilizando características semánticas en lugar de funciones motoras o auditivas, las predicciones del decodificador deberían capturar el significado de los estímulos”, dijo el estudio.
“Los resultados muestran que las secuencias de palabras decodificadas capturaron no solo el significado de los estímulos, sino también, a menudo, palabras y frases exactas”.
Las tecnologías capaces de leer los pensamientos de las personas pueden ser beneficiosas para las personas que han perdido la capacidad de comunicarse físicamente. Sin embargo, plantean preocupaciones sobre la privacidad y la pérdida de libertad.
En una entrevista del 17 de marzo con MIT Technology Review, Nita Farahany, futurista y especialista en ética legal de la Universidad de Duke en Durham, Carolina del Norte, advirtió que los gobiernos y otros poderes pueden utilizar la recopilación de datos cerebrales con fines nefastos.
“Un gobierno autoritario que tenga acceso a él podría usarlo para tratar de identificar a personas que no muestran adhesión política, por ejemplo. Ese es un mal uso bastante rápido y grave de los datos. Ese es un uso indebido de los datos bastante rápido y grave. O intentar identificar a personas neuroatípicas y discriminarlas o segregarlas», explica Farahany.
En un lugar de trabajo, la tecnología se puede utilizar en la «deshumanización» de los empleados obligándolos a someterse a neurovigilancia.
“El problema surge si se usa como una herramienta obligatoria y los empleadores recopilan datos para tomar decisiones sobre contratación, despido y promociones. Lo convierten en una especie de puntuación de productividad. Entonces creo que se vuelve realmente insidioso y problemático. Socava la confianza… y puede hacer que el lugar de trabajo sea deshumanizante”.
Tecnología no invasiva que podría generar problemas de privacidad
A diferencia de otros sistemas de decodificación de idiomas que están en desarrollo en la actualidad, el desarrollado por los investigadores en el estudio del 1 de mayo no es invasivo y no requiere que los sujetos reciban trasplantes quirúrgicos.
Alex Huth, profesor asistente de neurociencia y ciencias de la computación en UT Austin que dirigió el estudio, calificó los resultados como un «verdadero salto adelante» para las lecturas cerebrales no invasivas.
“Estamos consiguiendo que el modelo descodifique un lenguaje continuo durante largos periodos de tiempo con ideas complicadas», afirma Huth, según un comunicado de prensa del 1 de mayo. Los resultados de la descodificación no son transcripciones palabra por palabra. En cambio, captan lo esencial de lo que piensa el sujeto.
Para abordar las preocupaciones relativas a la privacidad, los investigadores probaron los descodificadores para ver si podían entrenarse sin la cooperación de una persona. El equipo intentó descodificar el habla percibida de los sujetos de prueba utilizando descodificadores entrenados con datos de otros sujetos.
“Los decodificadores entrenados en datos de sujetos cruzados se desempeñaron apenas por encima del azar y significativamente peor que los decodificadores entrenados en datos dentro del sujeto. Esto sugiere que la cooperación de los sujetos sigue siendo necesaria para el entrenamiento del decodificador”, dijo el estudio.
Los investigadores también confirmaron que los decodificadores entrenados con la cooperación de una persona no se pueden usar para identificar los pensamientos de esa persona si la persona se resiste conscientemente. Tácticas como pensar en animales o imaginar historias en silencio pueden evitar que el sistema lea los pensamientos.
“Una persona necesita pasar hasta 15 horas acostada en un escáner de resonancia magnética, estar perfectamente quieta y prestar mucha atención a las historias que está escuchando antes de que esto realmente funcione bien en ellos”, dijo Huth.
Jerry Tang, coautor del estudio, cree que, si bien la tecnología se encuentra en sus primeras etapas, los gobiernos deberían tratar de promulgar políticas que protejan a las personas y su privacidad. “Regular para qué se pueden usar estos dispositivos también es muy importante”.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
