A medida que se acercan las elecciones presidenciales estadounidenses de 2024, la preocupación por la influencia de la inteligencia artificial (IA) y la tecnología del «deepfake» en el proceso electoral alcanza nuevas cotas.
Los Deepfake son medios digitales altamente convincentes y engañosos -típicamente vídeos, grabaciones de audio o imágenes- generados cada vez más mediante inteligencia artificial, y a menudo con fines engañosos o dolosos.
Expertos en el campo de la inteligencia artificial y la detección de Deepfake proporcionaron a The Epoch Times valiosos datos sobre los retos que plantean la desinformación y la manipulación generadas por inteligencia artificial y las medidas que se están tomando para combatirlas.
Rijul Gupta, cofundador y CEO de DeepMedia, destacó el alarmante aumento de la tecnología Deepfake y sus implicaciones para las elecciones de 2024.
«2024 va a ser la elección Deepfake en formas que las elecciones anteriores no lo fueron», dijo. «Solo se está volviendo prevalente en 2024, y eso se debe al acceso a esta tecnología. En 2020 existían versiones básicas de esta tecnología, pero la calidad no era lo suficientemente buena como para engañar a la gente. La gente aún podía darse cuenta de que era falsa».
Gupta afirma que la calidad mejoró en 2022 y sigue avanzando cada mes. El contenido se está volviendo lo suficientemente bueno como para que la persona promedio pueda verlo o escucharlo en TikTok o YouTube y se convenza de que es real.
«No están buscando una falsificación», dijo. «No intentan determinar si es falso. Les suena real, así que asumen que lo es». Pero lo último que hacía falta para que esto se convirtiera en un problema masivo era el acceso. El primer obstáculo era la calidad, que se consiguió el año pasado. El segundo obstáculo era el acceso».
Ahora, dijo Gupta, las herramientas están disponibles en línea para las masas, y generalmente de forma gratuita.
«La mayoría de las veces, ni siquiera necesitas una tarjeta de crédito, y puedes crear falsificaciones profundas de cualquier persona en solo cinco segundos», dijo. «Eso es lo nuevo. Eso es lo que acaba de ocurrir en los últimos meses, y por eso 2024 van a ser las elecciones Deepfake».
Es un tema que «me mantiene despierto por la noche», dijo Gupta.
«Esta es una de las principales razones por las que fundé DeepMedia, para ser el líder en la lucha contra la desinformación y la falsificación», dijo. «Hace unos seis años, vi que esto estaba escrito en la pared. Vi un futuro en el que la gente no sería capaz de distinguir lo que es real de lo que es falso».
Detección de contenidos Deepfake
Para hacer frente a la creciente amenaza de los Deepfake, Emma Brown, socia de Gupta y cofundadora y directora de operaciones de DeepMedia, destacó la importancia de contar con métodos de detección precisos y escalables.
DeepMedia ha desarrollado capacidades avanzadas e inteligentes de detección de Deepfake que, según señalan, han sido validadas por el gobierno estadounidense y empresas de todo el mundo.
Brown afirmó que DeepMedia cuenta con las capacidades de detección de falsificaciones de rostros y voces más precisas del mundo, lo que garantiza una identificación fiable de los contenidos generados por IA.
La escalabilidad es otro factor importante para la empresa, y añadió que DeepMedia tiene capacidad para procesar diariamente un gran número de vídeos, lo que permite la rápida identificación de deepfakes en grandes conjuntos de datos.
En tercer lugar, dijo que la solidez de la plataforma de DeepMedia ofrece funciones avanzadas como la categorización precisa de contenidos, lo que permite a los usuarios extraer información específica de los contenidos generados por IA.
«Participamos activamente en la protección de nuestras elecciones frente a las amenazas de la IA», afirmó Brown.
Capacitar al público
Consciente de la necesidad de sensibilizar e implicar al público en la lucha contra la desinformación generada por la IA, DeepMedia ha puesto recientemente a disposición de los usuarios sus capacidades de detección de Deepfake de forma gratuita en X, antes conocido como Twitter.
Los usuarios pueden etiquetar a @DeepMedia y añadir el hashtag #DeepID a cualquier contenido multimedia, y el bot de Twitter de DeepMedia someterá inmediatamente el contenido a su sistema de detección de Deepfake y proporcionará los resultados en el hilo, dijo Gupta.
«Esperamos que esto proporcione al usuario medio y a los ciudadanos periodistas las herramientas que necesitan para protegerse de la desinformación generada por la IA».
La medida representa un paso importante hacia la democratización de la lucha contra la desinformación y la falsedad generadas por la IA.
Las elecciones presidenciales estadounidenses de 2024 serán una prueba decisiva de la capacidad de combatir la influencia de los Deepfake en la percepción pública y los resultados electorales. Gupta subrayó que el reto va más allá de las soluciones técnicas, e insta a la gente a permanecer vigilante e informada.
«La fusión de la IA y las elecciones exige nuestra atención y acción colectivas para salvaguardar la integridad de nuestros procesos democráticos», afirmó Gupta.
Cuando se le preguntó si la IA o los Deepfake ya se habían hecho notar en el ciclo electoral de 2024, Brown dijo que se trataba solo de unos pocos casos que no ganaron mucha tracción.
Un vídeo falso mostraba supuestamente a Hillary Clinton apoyando al candidato presidencial Ron DeSantis.
«Era completamente falso, y nuestros detectores fueron capaces de detectarlo con un alto grado de precisión», dijo Brown. «Pero casos como ese podrían ser perjudiciales para la campaña de DeSantis.
«Así que estaremos viendo más y más de eso, especialmente a medida que la cobertura en la temporada electoral realmente aumenta».
Confiar en sus fuentes
Conversica es una empresa dedicada a la inteligencia artificial desde 2007. Su consejero delegado, Jim Kaskade, ofreció una perspectiva única sobre el papel de la IA en las elecciones de 2024.
«Nos mueve el propósito positivo y el aspecto positivo de la IA aplicada», afirmó.
Este compromiso sugiere que las tecnologías de IA, si se emplean con cuidado, pueden contribuir a mejorar el proceso electoral.
Según Kaskade, la IA puede ser una fuerza positiva en las elecciones. Las herramientas basadas en la IA pueden mejorar la comunicación, proporcionar información valiosa sobre las preferencias de los votantes y agilizar los esfuerzos de campaña. Es esencial encontrar un equilibrio entre el aprovechamiento de la IA para fines positivos y la protección contra su uso indebido.
Subrayó la necesidad de un uso ético de los contenidos generados por IA en el discurso político y de vigilancia para garantizar la autenticidad de la información en contextos electorales, lo que pone de relieve la importancia de confiar en las fuentes en la era de los contenidos generados por IA.
«Creo que es fundamental», dijo Kaskade. «Tienes que investigar tu fuente».
Reconoció que, aunque la tecnología aún no ha conseguido diferenciar del todo entre contenidos reales y falsos, se puede actuar con cautela evaluando la credibilidad de las fuentes que proporcionan la información.
El problema en 2024
El reto que plantean los Deepfake en las elecciones de 2024 es polifacético. Con el rápido avance de la tecnología de IA, los actores maliciosos pueden crear fácilmente contenidos falsos muy convincentes -incluidos vídeos, grabaciones de audio e imágenes- para manipular a la opinión pública y sembrar la discordia.
Esto supone una amenaza significativa para erosionar la confianza en los candidatos y las instituciones políticas.
Según los expertos, se requiere un esfuerzo colectivo de los gobiernos, las empresas tecnológicas y la sociedad en su conjunto para concienciar, promover la alfabetización digital y promulgar normativas para combatir el uso malicioso de la IA.
Kaskade instó a los candidatos a las elecciones a proponer políticas y normativas sobre IA que garanticen que su uso sea beneficioso para la sociedad, en lugar de perjudicial y divisivo.
También va a depender de los votantes y los ciudadanos mantenerse al día sobre lo Deepfake y el avance de la IA, y saber cómo protegerse mediante el uso de sus habilidades de pensamiento analítico y la evaluación crítica de la información que encuentran en línea.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
