El Departamento de Defensa ha concedido un contrato a una empresa de IA para desplegar un software capaz de predecir y neutralizar las denominadas amenazas de «desinformación» en las plataformas de redes sociales.
La empresa de inteligencia artificial Accrete AI, con sede en Nueva York, anunció el contrato con el Pentágono en un comunicado de prensa del 29 de agosto.
El Mando de Operaciones Especiales de EE. UU. dijo que quiere analizar los datos de las redes sociales y captar las «narrativas emergentes» para generar rápidamente la información que necesita para eliminar las tendencias hostiles en tiempo real
En 2022, Accrete entregó Argus, su software de IA para la detección de amenazas de código abierto, al Departamento de Defensa.
La Unidad de Innovación en Defensa del Pentágono, cofundada por el ex director ejecutivo de Google Eric Schmidt, ayudó a desarrollar Argus el pasado noviembre.
El Departamento de Defensa pagó a Accrete millones de dólares por una licencia de cinco años para que Argus le ayudara a descubrir cosas como «anomalías de comportamiento indicativas de actividades potencialmente ilícitas que son demasiado complejas para que las identifiquen los humanos».
El director ejecutivo de la empresa, Prashant Bhuyan, afirma que el software de IA será capaz de predecir y neutralizar la «desinformación viral» dañina incluso cuando todavía se está haciendo viral.
La herramienta sería utilizada por analistas de inteligencia y otros especialistas para predecir amenazas de desinformación en tiempo real en las redes sociales.
«Los medios sintéticos, incluidas las narrativas virales generadas por IA, los deep fakes y otras aplicaciones nocivas de la IA basadas en las redes sociales, suponen una grave amenaza para la seguridad nacional y la sociedad civil de Estados Unidos», afirmó Bhuyan.
Describió las redes sociales como «un entorno no regulado en el que los adversarios explotan rutinariamente las vulnerabilidades del razonamiento y manipulan el comportamiento mediante la difusión intencionada de desinformación».
«El USSOCOM está en la primera línea para reconocer la necesidad crítica de identificar y predecir analíticamente las narrativas de las redes sociales en una fase embrionaria, antes de que esas narrativas evolucionen y ganen tracción. Accrete se enorgullece de apoyar la misión del USSOCOM».
Versión para grandes empresas
Sin embargo, el Pentágono no será el único cliente que acceda a la tecnología de Argus.
Una versión civil, llamada Nebula Social, se comercializará para empresas privadas con el fin de supervisar su reputación online y estará diseñada para proteger contra los «puntos débiles del cliente».
Afirmó que el sector privado también tiene una necesidad urgente de que las herramientas de guerra de la información de nivel militar se pongan a disposición del público para su uso.
«Tanto las agencias gubernamentales como las empresas tienen la necesidad urgente de gestionar una plétora de riesgos y oportunidades que plantean los medios sintéticos generados por la IA», dijo el Sr. Bhuyan.
«Las empresas ya están experimentando importantes daños económicos causados por la difusión de desinformación viral generada por IA y deep fakes fabricados por competidores, empleados descontentos y otros tipos de adversarios».
El software es capaz de filtrar el contenido analizando los valores fundamentales de una empresa y respondiendo primero a las cuestiones más relevantes, antes de que los malos actores puedan influir negativamente en el comportamiento de los clientes con contenido falso generado por IA.
«Creemos que el mercado de la IA capaz de predecir y neutralizar los medios sintéticos malignos generados por la IA está a punto de explotar», predijo el Sr. Bhuyan.
The Epoch Times se puso en contacto con Accrete para que hiciera comentarios.
Se intensifica la batalla contra la censura gubernamental
El mes pasado, el juez de distrito estadounidense Terry Doughty, de Luisiana, dictó una orden judicial temporal que restringía los contactos del gobierno de Biden con las grandes empresas tecnológicas, en medio de una demanda por presuntos vínculos con operaciones gubernamentales de censura en Internet para silenciar la disidencia de los conservadores.
En documentos judiciales obtenidos por Politico, la orden preliminar del juez prohibía a numerosas agencias federales relacionarse con empresas de redes sociales, con la excepción del Departamento de Defensa.
El juez Doughty escribió en su opinión de 155 páginas (pdf): «Durante la pandemia del COVID-19, un periodo quizá mejor caracterizado por la duda y la incertidumbre generalizadas, el gobierno de Estados Unidos parece haber asumido un papel similar al de un orwelliano ‘Ministerio de la Verdad'».
Mientras tanto, la Unión Europea comenzó el 25 de agosto a aplicar su Ley de Servicios Digitales, que podría suponer miles de millones en multas para las empresas de medios sociales por no cumplir las normas de control de la expresión contra la «desinformación».
La ley de la UE también intenta impedir la difusión de contenidos personalmente perjudiciales o de desinformación, prohibir o limitar determinadas prácticas publicitarias dirigidas a los usuarios y hacer que las empresas compartan algunos datos internos con los reguladores.
La Comisión Europea será quien decida en última instancia qué se considera «desinformación».
El comisionado europeo Thierry Breton, dijo que se comprometía a «hacer cumplir rigurosamente la DSA y utilizar plenamente nuestros nuevos poderes para investigar y sancionar a las plataformas cuando esté justificado».
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
