Un grupo de 20 grandes empresas tecnológicas se comprometió a «impedir el uso engañoso» de la inteligencia artificial (IA) y a localizar a sus creadores cuando Estados Unidos y otros países se enfrenten a las elecciones de 2024.
Los deepfakes de candidatos políticos, funcionarios electorales y «otras partes interesadas clave» en las elecciones de este año estarán bajo la mira de Adobe, Amazon, Anthropic, ARM, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap, Stability AI, TikTok, TrendMicro, TruePic y X (antes Twitter).
Las grandes empresas tecnológicas, algunas de las cuales se han visto envueltas en polémicas por censurar opiniones políticas desfavorables durante las elecciones, han firmado un pacto para combatir el uso engañoso de la IA en las elecciones de 2024, que se dio a conocer en la Conferencia de Seguridad de Múnich (MSC), a la que asistieron líderes mundiales y funcionarios de seguridad el viernes.
El pacto se centra específicamente en el audio, el video y las imágenes generados por IA y diseñados para engañar a los votantes y manipular los procesos electorales. Según un comunicado de prensa, las empresas «trabajarán en colaboración» para aprovechar los esfuerzos de cada una de ellas en este ámbito.
El acuerdo se produce en un momento en el que se espera que más de 4000 millones de personas de más de 40 países participen en las elecciones de 2024, señala el comunicado de prensa.
El acuerdo tecnológico establece una serie de compromisos, entre ellos que las empresas colaborarán para crear herramientas que detecten «y aborden» el uso de deepfakes, es decir, audio, video e imágenes generados por inteligencia artificial.
Las empresas también se centrarán en los contenidos que proporcionen información falsa a los votantes sobre la hora, el lugar y la forma de votar.
El presidente del MSC, Christoph Heusgen, que describió las elecciones como el «corazón palpitante» de las democracias, calificó el «Acuerdo Tecnológico» como un «paso crucial en el avance de la integridad electoral, el aumento de la resiliencia social y la creación de prácticas tecnológicas fiables».
«El MSC se enorgullece de ofrecer una plataforma para que las empresas tecnológicas tomen medidas para frenar las amenazas que emanan de la IA y, al mismo tiempo, la empleen para el bien de la democracia», afirmó en un comunicado.
Las empresas participantes se han comprometido a llevar a cabo ocho acciones en el «Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024».
Estas acciones van desde trabajar juntos para desarrollar tecnología que detecte y aborde las falsificaciones profundas, mitigar los riesgos y fomentar la resiliencia intersectorial, hasta ofrecer transparencia al público en relación con sus esfuerzos.
El acuerdo también reconoce la necesidad de un compromiso continuo con diversas organizaciones de la sociedad civil y académicos de todo el mundo.
«Amazon está comprometida con la defensa de la democracia y el Acuerdo de Múnich complementa nuestros esfuerzos actuales para construir y desplegar nuevas tecnologías de IA que sean fiables, seguras y protegidas», ha declarado David Zapolsky, vicepresidente sénior de política pública global y consejero general de Amazon.
Dana Rao, consejera general y directora de confianza de Adobe, destacó la importancia de la transparencia para generar confianza.
«Por eso estamos encantados de ver este esfuerzo para construir la infraestructura que necesitamos para proporcionar un contexto para el contenido que los consumidores ven online», dijo en un comunicado.
El pacto de las grandes empresas tecnológicas es sólo «un paso importante para salvaguardar a las comunidades online de los contenidos dañinos de la IA», señala el comunicado de prensa. Los gobiernos y otros aspectos de la sociedad serán necesarios en estos esfuerzos, según un ejecutivo de Meta.
Nick Clegg, presidente de asuntos globales de Meta, declaró: «Con tantas elecciones importantes este año, es vital que hagamos lo posible para evitar que la gente sea engañada por contenidos generados por IA».
«Esta labor va más allá de una sola empresa y requerirá un enorme esfuerzo por parte de la industria, el gobierno y la sociedad civil», añadió. «Esperemos que este acuerdo pueda servir como un paso significativo de la industria para afrontar ese reto».
Ha aumentado la preocupación por la tecnología deepfake, sobre todo después de que una llamada robotizada haciéndose pasar por el presidente Joe Biden se utilizara para disuadir a la gente de votar en las elecciones primarias de New Hampshire. El origen de la llamada se rastreó hasta una empresa de Texas. Este incidente ha llevado a la Comisión Federal de Comunicaciones a tomar medidas contra las llamadas robotizadas generadas por inteligencia artificial.
La Conferencia de Seguridad de Múnich se celebra en Alemania del 16 al 18 de febrero. Entre los asistentes figuran líderes mundiales y responsables de seguridad.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
