El gobernador de California, Gavin Newsom, firmó el 17 de septiembre tres proyectos de ley para hacer frente a la alteración de videos y otros contenidos creados digitalmente, conocidos como deepfakes, que podrían afectar a candidatos y campañas electorales.
Las leyes están destinadas a eliminar el contenido deepfake de funcionarios o candidatos de las principales plataformas en línea, «aumentar la rendición de cuentas, e informar mejor a los votantes», según un comunicado de prensa de la oficina del gobernador.
«Salvaguardar la integridad de las elecciones es esencial para la democracia, y es fundamental que nos aseguremos de que la IA no se utiliza para socavar la confianza del público a través de la desinformación, especialmente en el tenso clima político actual», dijo Newsom en un comunicado.
El proyecto de ley 2655, presentado por el asambleísta Marc Berman (D-Palo Alto), obliga a las empresas de Internet con más de un millón de usuarios de California a etiquetar o retirar los medios «materialmente engañosos» que presenten a un funcionario o candidato a un cargo electivo durante el período comprendido entre 120 días antes de unas elecciones y 60 días después. También exige a las empresas que creen un mecanismo para denunciar tales contenidos.
La ley excluye los contenidos considerados sátira o parodia.
Además, la nueva ley faculta a los candidatos, los funcionarios y las fuerzas del orden para solicitar medidas cautelares en caso de infracción.
Berman dijo que la ley era necesaria para proteger las campañas del uso de contenidos de inteligencia artificial (IA) que podrían confundir a los votantes.
«Los deepfakes generados por IA suponen un riesgo claro y presente para nuestras elecciones y nuestra democracia», dijo en un comunicado. «Los avances en IA en los últimos años hacen que sea fácil generar deepfakes hiperrealistas pero completamente falsos relacionados con las elecciones, pero AB 2655 garantizará que las plataformas en línea minimicen su impacto».
Un grupo que patrocinó el proyecto de ley dijo que el texto de la nueva ley fue cuidadosamente construido para navegar por las preocupaciones de la Primera Enmienda.
«El enfoque del proyecto de ley 2655 está estrechamente adaptado y no extiende la ley a controversias candentes o afirmaciones incendiarias: no pide a las plataformas de redes sociales que adjudiquen opiniones controvertidas post por post», dijo la organización sin fines de lucro Iniciativa de California para la Tecnología y la Democracia en un análisis legislativo. «Simplemente detiene el uso de contenidos obviamente falsos y demostrablemente falsos destinados a influir de forma inadmisible en nuestras elecciones en momentos de máxima tensión electoral».
Los opositores argumentaron que las protecciones de la Primera Enmienda se extienden a la expresión política y sugirieron que la nueva ley debería haberse centrado únicamente en las publicaciones difamatorias o fraudulentas.
«La ley ha dejado claro desde hace tiempo que la Primera Enmienda tenía la intención de crear un amplio margen para el discurso político porque es el núcleo de nuestra democracia», dijo ACLU California Action en un análisis legislativo. «Desafortunadamente, las disposiciones de AB 2655 … amenazan con inmiscuirse en esos derechos y disuadir ese discurso vital».
Publicidad política
El proyecto de ley de la Asamblea 2839, presentado por la asambleísta Gail Pellerin (D-Santa Cruz), regula la publicidad política mediante la prohibición de la distribución de anuncios que contengan contenido engañoso o manipulado «con malicia» dentro de los 120 días de las elecciones, y en algunos casos hasta 60 días después.
Malicia «significa que la persona, comité u otra entidad distribuyó los medios audiovisuales a sabiendas de que el contenido materialmente engañoso era falso o con temerario desprecio por la verdad», según la ley.
Pellerin afirmó en un comunicado: «A menos de 50 días de las elecciones generales, es urgente proteger contra contenidos engañosos y alterados digitalmente que puedan interferir en los comicios».
Un análisis para el Comité Judicial del Senado dijo que la ley aborda el rápido desarrollo de la tecnología de IA que hizo la producción de contenido sintético —incluyendo audio, video, imágenes y texto— más barato, más fácil y más difícil de detectar.
Algunos partidarios dijeron que la nueva ley es necesaria para salvaguardar la integridad electoral.
«En unos pocos clics, utilizando la tecnología actual, los malos actores tienen ahora el poder de crear una imagen falsa de un candidato aceptando un soborno, un video falso de un funcionario electoral ‘grabado’ diciendo que las máquinas de votación no son seguras, o una robocall del ‘Gobernador Newsom’ diciendo incorrectamente a millones de californianos que su lugar de votación ha cambiado», dijeron las organizaciones de apoyo, incluyendo el grupo laboral SEIU California, en un análisis legislativo.
Los opositores argumentaron que la ley es demasiado ambigua y pone la carga en aquellos que distribuyen el contenido pero desconocen las prohibiciones del estado.
«Reconocemos la complejidad de las cuestiones planteadas por los contenidos electorales generados artificialmente y potencialmente perjudiciales», dijo la Electronic Frontier Foundation, organización sin ánimo de lucro, en un análisis legislativo. «Sin embargo, las ‘excepciones’ de este proyecto de ley para sólo algunos tipos de reeditores, y al exigirles que publiquen un descargo de responsabilidad, no refleja la plena protección de la Primera Enmienda debida a la reedición de discursos relativos a asuntos de interés público por parte de quienes no están relacionados con la creación del material ofensivo».
Exención de responsabilidad de AI
El proyecto de ley de la Asamblea 2355, de la que es autora la asambleísta Wendy Carrillo (D-Los Ángeles), exige que los contenidos publicitarios electorales creados o alterados sustancialmente con IA revelen cómo se generó el material.
La ley también autoriza a la Comisión de Prácticas Políticas Justas del estado a hacer cumplir las infracciones.
«Las rápidas mejoras en IA y Large Language Models han facilitado la creación de imágenes, vídeos y sonidos convincentemente falsos», dijo Carrillo en un comunicado. «Los votantes deben ser informados cuando la IA generativa se utiliza en la publicidad política para alterar sustancialmente los medios de comunicación o crear contenido engañoso».
Reconoció la necesidad de respetar la Primera Enmienda, pero dijo que las nuevas tecnologías están obligando a los legisladores a repensar la mejor manera de proteger a la sociedad.
«La libertad de expresión y la expresión política son una piedra angular de nuestra democracia, pero no podemos perder de vista nuestra humanidad en medio del avance de la inteligencia artificial», dijo Carrillo. «Esta es una política equilibrada que convierte a California en el primer estado que incluye la inteligencia artificial en sus normas de transparencia de campaña».
Un grupo que apoya el proyecto de ley dijo que la ley mejorará la transparencia y ayudará a educar a los votantes.
«El contenido ‘Deepfake’ puede ser extremadamente engañoso y puede tener un impacto negativo en las elecciones», dijo la Cámara de Comercio del Área de Los Ángeles en un análisis legislativo. «La amenaza potencial que suponen los medios manipulados para la integridad de futuras elecciones es ahora más significativa que nunca. Hay que tomar medidas para garantizar la integridad de las elecciones».
El gobernador también firmó el 17 de septiembre proyectos de ley para proteger la imagen digital ilegalizando la clonación artificial de actores sin su consentimiento.
En su comunicado de prensa, el gobernador afirmó que California está buscando un equilibrio entre la regulación de las empresas de IA y el mantenimiento de la ventaja competitiva del Estado en la innovación de la IA.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo clic aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
