Un grupo de empleados y exempleados de los gigantes de la IA OpenAI y Google advirtieron el martes en una carta abierta sobre los «graves riesgos» que plantea la tecnología de IA y pidieron una mayor protección para los denunciantes en el sector.
La carta, publicada en el sitio web righttowarn.ai, está firmada por 13 empleados y exempleados de OpenAI y Google DeepMind.
Fue respaldada por los expertos en IA Yoshua Bengio, Geoffrey Hinton y Stuart Russell.
Los empleados dijeron que creen que la tecnología de IA tiene el potencial de ofrecer «beneficios sin precedentes a la humanidad», pero advirtieron que conlleva graves riesgos, que las empresas de IA también han reconocido.
«Mientras no exista una supervisión gubernamental efectiva de estas corporaciones, los empleados y exempleados son de las pocas personas que pueden hacerlas responsables ante el público», se lee en la carta.
La carta cita riesgos que van desde «un mayor afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA, lo que podría provocar la extinción humana”.
«Tenemos la esperanza de que estos riesgos puedan mitigarse adecuadamente con la suficiente orientación de la comunidad científica, los responsables políticos y el público», escribieron los empleados.
«Sin embargo, las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión eficaz, y no creemos que las estructuras personalizadas de gobierno corporativo sean suficientes para cambiar esto», agregaron.
Hicieron hincapié en que las empresas de IA tienen «sólo obligaciones débiles» de revelar a los gobiernos «información sustancial no pública» relacionada con las capacidades y limitaciones de sus sistemas, la idoneidad de sus medidas de protección y los niveles de riesgo de la tecnología.
La carta pide a las «empresas avanzadas de IA» que se abstengan de celebrar o hacer cumplir «cualquier acuerdo que prohíba menospreciar o criticar a la empresa por preocupaciones relacionadas con el riesgo» y que no tomen represalias «obstaculizando cualquier beneficio económico adquirido».
También se instó a las empresas de IA a no tomar represalias contra los empleados «que comparten públicamente información confidencial relacionada con riesgos después de que otros procesos hayan fallado» y a promover «una cultura de crítica abierta».
«Las protecciones ordinarias de los denunciantes son insuficientes porque se centran en la actividad ilegal, mientras que muchos de los riesgos que nos preocupan aún no están regulados», afirmaron los empleados.
«Algunos de nosotros tememos razonablemente diversas formas de represalias, dada la historia de casos de este tipo en toda la industria», agregaron.
La semana pasada, OpenAI anunció que su junta había formado un «Comité de Seguridad», dirigido por Altman y otros directores de la junta.
El comité tiene la tarea de hacer recomendaciones a la junta sobre decisiones críticas de seguridad y protección.
En un comunicado, OpenAI declaró que la primera tarea del comité sería evaluar y desarrollar aún más los «procesos y salvaguardas» de OpenAI durante los próximos 90 días.
Una vez concluida, el comité presentará sus recomendaciones a la junta en pleno.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo clic aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
