La posibilidad de que un sistema de inteligencia artificial (IA) pueda lanzar un ataque nuclear por sí solo ha llevado a miembros de la Cámara de Representantes a proponer una legislación que garantice el control humano del arsenal nuclear estadounidense.
El representante Ted Lieu (D-Calif.) ha propuesto una enmienda bipartidista a la medida de política de defensa para 2024, antes de la fecha límite del 30 de junio, que exigiría al Pentágono implantar un sistema que asegure que «se requiere un control humano significativo para lanzar cualquier arma nuclear».
La revisión exige que el Pentágono establezca una salvaguarda que «impida que la inteligencia artificial lance un arma nuclear sin un humano en el bucle».
Estipula que los humanos deben tener la última palabra a la hora de seleccionar y atacar objetivos, incluido cuándo, dónde y cómo se atacan con armas nucleares.
El apoyo bipartidista a la enmienda del Sr. Lieu indica que a los legisladores les preocupa cada vez más que la IA pueda tomar decisiones tan rápidamente como pueda evaluar la situación.
Los representantes Juan Ciscomani (R-Ariz.) y Zachary Nunn (R-Iowa) apoyan la enmienda del Sr. Lieu a la Ley de Autorización de Gastos de Defensa Nacional (NDAA, por sus siglas en inglés) de 2024, al igual que los representantes demócratas. Chrissy Houlahan (D-Pa.), Seth Moulton (D-Mass.), Rashida Tlaib (D-Mich.) y Don Beyer (D-Va.).
Los republicanos de la Cámara de Representantes podrían empezar a determinar cuáles de las más de 1300 enmiendas propuestas a la NDAA se votarán en el pleno de la Cámara ya la semana que viene.
El representante Stephen Lynch (D-Mass) propuso en febrero una enmienda similar a la NDAA, que exigía el cumplimiento de una serie de buenas prácticas:
La enmienda del Sr. Lynch «exige que el secretario de Defensa, al llevar a cabo cualquier programa, proyecto u otra actividad que implique el uso de inteligencia artificial o tecnología autónoma, se adhiera a las mejores prácticas establecidas en la Declaración Política sobre el Uso Militar Responsable de la Inteligencia Artificial y la Autonomía emitida por la Administración Biden en febrero de 2023».
La orientación no vinculante citada en la enmienda del Sr. Lynch establece, entre otras cosas, que las naciones deben «mantener el control y la participación humanos en todas las acciones críticas para informar y ejecutar decisiones soberanas relativas al empleo de armas nucleares».
«Los Estados deben diseñar y concebir las capacidades militares de IA de modo que posean la capacidad de detectar y evitar consecuencias imprevistas y la capacidad de desconectar o desactivar los sistemas desplegados que demuestren un comportamiento imprevisto», añade. «Los Estados también deben aplicar otras salvaguardias adecuadas para mitigar los riesgos de fallos graves».
Incorporación de la IA por el Departamento de Defensa
Según un nuevo informe de la Oficina de Rendición de Cuentas del Gobierno (GAO, por sus siglas en inglés) al Comité de las Fuerzas Armadas del Senado, el Departamento de Defensa (DOD, por sus siglas en inglés) debe publicar unas directrices sobre adquisiciones de IA para todo el departamento.
El departamento ha empezado a buscar capacidades de IA cada vez más avanzadas, según un informe de 44 páginas publicado el mes pasado.
La oficina informó que el departamento ha «luchado históricamente para adquirir software de sistemas de armas» y que las adquisiciones de IA presentan «retos adicionales».
La GAO analizó la información facilitada por 13 empresas del sector privado sobre su éxito en la adquisición de capacidades de IA para identificar los factores clave.
A la hora de adquirir dichas capacidades, las empresas tuvieron en cuenta diversos factores, como determinar la necesidad y la idoneidad de la IA, desarrollar un caso empresarial para la IA, personalizar un enfoque de contratación para proteger el acceso a datos y sistemas, probar y evaluar las soluciones propuestas, y prever las capacidades de IA que pueden ser valiosas.
Además, el equipo analizó la documentación de defensa, la comparó con los principales factores que identificó y realizó entrevistas con funcionarios del gobierno.
Tras esta evaluación, el informe formula cuatro recomendaciones para que el departamento y las tres ramas militares (Ejército, Marina y Fuerza Aérea) elaboren dichas orientaciones, y la GAO informa de que el departamento «estuvo de acuerdo con las recomendaciones».
«Aunque numerosas entidades del Departamento de Defensa están adquiriendo, desarrollando o utilizando ya IA, el Departamento de Defensa no ha publicado directrices para todo el departamento sobre cómo deben enfocar sus componentes la adquisición de IA», declaró la GAO. «El DOD está en proceso de planificar la elaboración de dichas directrices, pero no ha definido planes concretos ni tiene un calendario para hacerlo».
Además, el informe afirma que los servicios militares carecen de orientaciones específicas para la adquisición de IA, a pesar de que los funcionarios han declarado que dichas orientaciones serían útiles para navegar por el proceso de adquisición de IA.
«Sin orientaciones para todo el departamento y adaptadas a cada servicio, el Departamento de Defensa está perdiendo la oportunidad de asegurarse de que adquiere capacidades de IA de forma coherente y teniendo en cuenta los retos específicos asociados a la IA», añade la GAO.
Preocupación por el uso de la IA en China
La noticia llega mientras The Wall Street Journal reportaba el 4 de julio de que el gobierno de Biden está intentando restringir el acceso de China a la computación en nube para proteger la tecnología avanzada.
El informe afirma que, de aplicarse, la nueva norma probablemente obligaría a los proveedores estadounidenses de servicios en la nube, como Amazon y Microsoft, a solicitar la aprobación del gobierno estadounidense antes de ofrecer a clientes chinos servicios de computación en la nube que empleen procesadores avanzados de IA.
El intento de la Administración Biden de imponer restricciones se produce poco después de que el líder de la mayoría del Senado, Chuck Schumer (D-N.Y.), trabajara con la cámara baja del Congreso para desarrollar un marco global que guíe el desarrollo y la legislación de la IA.
El Sr. Schumer declaró que el Congreso organizará una serie de foros sobre el tema de la IA, la innovación y la regulación en los próximos meses. Anticipó que el resultado garantizaría la prosperidad de Estados Unidos frente a los avances tecnológicos que «alteran el mundo».
La oficina del Sr. Lieu no respondió inmediatamente a la solicitud de comentarios de The Epoch Times.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
