El Pentágono anunció el 24 de febrero que ha adoptado nuevos principios éticos para el uso de la tecnología de inteligencia artificial (IA) en el campo de batalla.
El Departamento de Defensa (DOD por sus siglas en ingles) publicó un conjunto de principios el lunes, que fueron desarrollados a lo largo de 15 meses. Estos principios incluyen la responsabilidad, la equidad y la gobernabilidad, y llaman a las personas a «ejercer niveles apropiados de juicio y cuidado» al usar los sistemas de IA.
Las decisiones que se tomen usando sistemas de IA, como las que buscan objetivos mediante el escaneo de imágenes aéreas, deben ser «rastreables» y «gobernables», dijo el Pentágono. Si los sistemas demuestran un «comportamiento no intencionado», debe haber una manera de desactivarlos o desconectarlos, comentó el Teniente General de la Fuerza Aérea Jack Shanahan, Director del Centro Conjunto de Inteligencia Artificial del Pentágono.
El enfoque esbozado el lunes sigue las recomendaciones hechas el año pasado por la Junta de Innovación de Defensa, un grupo dirigido por el ex CEO de Google Eric Schmidt.
Today, we announce the next step in the DOD digital future, our Ethical Principles for Artificial Intelligence. After collaboration with the White House, agency partners, industry and AI experts, I am proud to share the formal adoption of DoD principles for AI.
— Secretary of Defense Dr. Mark T. Esper (@EsperDoD) February 24, 2020
El secretario de Defensa Mark Esper señaló en un comunicado que Estados Unidos y sus socios internacionales deben impulsar el uso de la IA para acelerar su uso en el campo de batalla.
«Estados Unidos, junto con nuestros aliados y socios, deben acelerar la adopción de la IA y liderar sus aplicaciones de seguridad nacional para mantener nuestra posición estratégica, prevalecer en futuros campos de batalla y salvaguardar el orden internacional basado en reglas», señaló Esper.
«La tecnología de la IA sobre el campo de batalla cambiará mucho el futuro, pero nada cambiará el firme compromiso de Estados Unidos con el comportamiento responsable y legal», añadió.
«La adopción de los principios éticos de la IA mejorará el compromiso del departamento de mantener los más altos estándares éticos como se describe en la Estrategia de la IA del DOD, mientras que se abraza la fuerte historia del ejército de Estados Unidos de aplicar rigurosas pruebas y estándares de campo para las innovaciones tecnológicas».
El empuje del Pentágono para acelerar sus capacidades de IA ha alimentado una lucha entre las empresas tecnológicas por un contrato de computación en la red de 10,000 millones de dólares conocido como la Infraestructura de Defensa de Empresa Conjunta, o JEDI. Microsoft ganó el contrato en octubre pero no ha podido trabajar en el proyecto de 10 años porque Amazon demandó al Pentágono, argumentando que la antipatía del presidente Donald Trump hacia Amazon y su director ejecutivo, Jeff Bezos, perjudicó las posibilidades de Amazon de ganar la licitación.
Una directiva militar existente de 2012 requiere que los humanos estén en control de las armas automatizadas pero no aborda los usos más amplios de la IA. Los nuevos principios de EE.UU. están destinados a guiar tanto las aplicaciones de combate como las que no lo son, desde la recopilación de inteligencia y las operaciones de vigilancia hasta la predicción de problemas de mantenimiento en aviones o barcos.
El anuncio del departamento se produce después de que en 2018 Google fuera presionado por sus empleados para que abandonara el Proyecto Maven del ejército, que utilizaba algoritmos para interpretar imágenes aéreas de zonas de conflicto. Esto causó que el Pentágono se encontrara con un bloqueo en sus esfuerzos de inteligencia artificial.
«Si hubiéramos tenido los principios éticos de la IA hace tres años (cuando lanzamos Maven), y fuéramos transparentes sobre lo que tratamos de hacer y por qué tratamos de hacerlo, tal vez hubiéramos tenido un resultado diferente», expresó Shanahan a los periodistas, según AFP.
Shanahan también destacó que la guía ayuda a asegurar la ventaja tecnológica de Estados Unidos, ya que China y Rusia persiguen la IA militar con poca atención a las preocupaciones éticas.
La jefe honoraria de Información del DOD, Dana Deasy, aseguró en un comunicado que la ética «permanecerá a la vanguardia» de todo lo que el Pentágono haga con la tecnología de IA.
The Associated Press contribuyó a este informe.
A continuación
¿Huawei espía a EE.UU. desde Latinoamérica?
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
