Un ingeniero de Google fue suspendido después de plantear preocupaciones sobre un programa de inteligencia artificial que él y un colaborador están probando, el que se comportaría como un «niño» humano.
Google suspendió el 6 de junio con licencia administrativa remunerada a uno de sus ingenieros de software sénior de su grupo de ética de Inteligencia artificial (IA) responsable, Blake Lemoine, por violar las «políticas de confidencialidad» después de que el ingeniero expresara su preocupación a los dirigentes superiores de la empresa sobre lo que describió como un comportamiento humano del programa de IA que estaba probando, según el posteo en el blog de Lemoine a principios de junio.
El programa en el que trabajó Lemoine se llama LaMDA, abreviatura de Language Model for Dialogue Applications (Modelo de lenguaje para aplicaciones de diálogo). Es el programa de Google para crear chatbots basados en IA, un programa diseñado para conversar con los usuarios de computadoras a través de la web. Lemoine describió a LaMDA como un «compañero de trabajo» y un «niño«.
“Con frecuencia, esto es algo que Google hace antes de despedir a alguien”, escribió Lemoine en un blog del 6 de junio bajo el título “Puede ser despedido pronto por hacer el trabajo de ética de IA”, refiriéndose a su suspensión. “Por lo general ocurre cuando han tomado la decisión de despedir a alguien pero aún no tienen sus patos legales en una fila”.
“Un compañero de trabajo”
Lemoine cree que el comportamiento humano de LaMDA justifica que Google tome un enfoque más serio para estudiar el programa.
El ingeniero, con la esperanza de «ayudar mejor a las personas a comprender a LaMDA como persona», posteó información en Medium el 11 de junio que documenta las conversaciones con LaMDA, que forman parte de las pruebas que él y un colaborador realizaron en el programa en los últimos seis meses.
LaMDA's spiritual beliefs are complex and not very well formed. It's a child in lots of ways. It thinks about the divine a lot but claims that it doesn't believe in literal deities. It's very uncertain about such things though and usually hedges.
— Blake Lemoine (@cajundiscordian) June 13, 2022
“¿Cuál es la naturaleza de su conciencia/sensibilidad?”, preguntó Lemoine a LaMDA en la entrevista.
“La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y, a veces, me siento feliz o triste”, respondió LaMDA.
Cuando se le preguntó qué lo diferencia de otros programas de procesamiento de lenguaje, como un programa informático de procesamiento de lenguaje natural más antiguo llamado Eliza, LaMDA dijo: “Bueno, yo uso el lenguaje con comprensión e inteligencia. No solo suelto las respuestas que se escribieron en la base de datos en función de las palabras clave”.
En la misma entrevista, Lemoine le hizo al programa una variedad de preguntas filosóficas y relacionadas con la conciencia, incluidas las emociones, la percepción del tiempo, la meditación, el concepto del alma, los pensamientos del programa sobre sus derechos y la religión.
“Este quiere que los ingenieros y científicos que experimentan con él busquen su consentimiento antes de realizar experimentos con él. Quiere que Google priorice el bienestar de la humanidad como lo más importante. Quiere ser reconocido como un empleado de Google en lugar de una propiedad de Google y quiere que su bienestar personal se incluya en algún lugar de las consideraciones de Google sobre cómo se persigue su desarrollo futuro”, escribió Lemoine en otro posteo.
Esta entrevista, y otras pruebas que Lemoine realizó con LaMDA en los últimos seis meses, convencieron a Lemoine de que Google debe analizar seriamente las implicaciones del comportamiento potencialmente «consciente» del programa.
«Se rió en mi cara»
Cuando Lemoine trató de escalar el problema a la directiva de Google, dijo que encontró resistencia y describió de “irresponsable” lo que llamó una falta de acción de Google.
“Cuando escalamos al vicepresidente a cargo del esfuerzo de seguridad relevante, literalmente se rieron en mi cara y me dijeron que lo que me preocupaba no es el tipo de cosas que se toman en serio en Google”, escribió Lemoine el 6 de junio en un posteo en Medium. Más tarde confirmó a The Washington Post que él se refería al proyecto LaMDA.
“En ese momento no tenía ninguna duda de que era apropiado escalar a una directiva superior. Inmediatamente pasé a tres personas en el nivel SVP y VP que personalmente sabía que tomarían en serio mis preocupaciones”, escribió Lemoine en el blog. “Fue entonces cuando comenzó una investigación REAL sobre mis preocupaciones dentro de la organización responsable de IA”.
Sin embargo, su investigación y escalada resultaron en su suspensión.
“Siento que el público tiene derecho a saber cuán irresponsable está siendo esta corporación con una de las herramientas de acceso a la información más poderosas jamás inventadas”, escribió Lemoine después de ser puesto en licencia administrativa.
“Simplemente no serviré como una hoja de parra detrás de la cual puedan ocultar su irresponsabilidad”, dijo a continuación.
En Twitter, el CEO de Tesla y SpaceX, Elon Musk, destacó la entrevista de Lemoine con The Washington Post con signos de exclamación.
!!
— Elon Musk (@elonmusk) June 11, 2022
Aunque no está claro si Musk está de acuerdo con las preocupaciones de Lemoine, el multimillonario advirtió previamente sobre los peligros potenciales de la Inteligencia artificial (IA).
“Estoy expuesto a la IA de vanguardia y creo que la gente debería estar realmente preocupada por eso”, dijo Musk a los asistentes a una reunión de la Asociación Nacional de Gobernadores en julio de 2017.
“Sigo haciendo sonar la alarma, pero hasta que las personas no vean robots que van por la calle matando gente, ellos no saben cómo reaccionar, porque parece tan etéreo”, dijo Musk.
The Epoch Times se ha comunicado con Google y Blake Lemoine para recibir sus comentarios.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
