BARI, Italia—El Papa Francisco instó el viernes a los líderes de las democracias más ricas del mundo a mantener la dignidad humana en primer lugar en el desarrollo y el uso de la inteligencia artificial, advirtiendo que una tecnología tan poderosa corre el riesgo de convertir las propias relaciones humanas en meros algoritmos.
Francisco hizo valer su autoridad moral ante el Grupo de los Siete, invitado por el país anfitrión, Italia, para dirigirse a una sesión especial de su cumbre anual sobre los peligros y las promesas de la inteligencia artificial. De ese modo, se convirtió en el primer papa en asistir al G7 y ofreció una visión ética de un tema que está cada vez más presente en la agenda de las cumbres internacionales, las políticas gubernamentales y los consejos de administración de las empresas.
Francisco dijo que los políticos deben tomar la iniciativa para garantizar que la IA siga centrada en el ser humano, de modo que las decisiones sobre cuándo usar armas o incluso herramientas menos letales sigan siendo tomadas por humanos y no por máquinas.
«Condenaríamos a la humanidad a un futuro sin esperanza si le quitáramos la capacidad a las personas de tomar decisiones sobre sí mismas y sus vidas, condenándolas a depender de las decisiones de las máquinas», afirmó. «Necesitamos garantizar y salvaguardar un espacio para un control humano adecuado sobre las decisiones tomadas por los programas de inteligencia artificial: la dignidad humana misma depende de ello».
Francisco se suma a un conjunto de países y organismos mundiales que presionan para que se refuercen los límites de la IA tras el auge de la inteligencia artificial generativa impulsado por el chatbot ChatGPT de OpenAI.
El papa argentino aprovechó su mensaje anual por la paz para pedir un tratado internacional que garantice el desarrollo y uso ético de la IA. Argumenta que una tecnología carente de los valores humanos de compasión, misericordia, moralidad y perdón es demasiado peligrosa para desarrollarse sin control.
No repitió este llamamiento explícitamente en su discurso del viernes, pero dejó claro que corresponde a los políticos liderar esta cuestión. Y les pidió que prohíban en última instancia el uso de armas autónomas letales, coloquialmente conocidas como «robots asesinos».
«Ninguna máquina debería elegir jamás acabar con la vida de un ser humano», afirmó.
Dirigiéndose a los líderes de la mesa, concluyó: «Depende de todos hacer un buen uso (de la IA), pero corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero».
La primera ministra italiana, Giorgia Meloni, invitó a Francisco y anunció su participación, consciente del impacto potencial de su poder estelar y su autoridad moral en el G7. Los sentados a la mesa parecían estar realmente impresionados, y el bullicio de la sala se silenció por completo a la llegada de Francisco.
«El Papa es, bueno, un tipo muy especial de celebridad», dijo John Kirton, politólogo de la Universidad de Toronto que dirige el grupo de reflexión G7 Research Group.
Kirton recordó que la última cumbre que tuvo este tipo de poder estelar, que luego se tradujo en acción, fue la reunión de 2005 en Gleneagles, Escocia. Allí, los líderes mundiales decidieron eliminar los 40,000 millones de dólares de las deudas que 18 de los países más pobres del mundo tenían con el Banco Mundial y el Fondo Monetario Internacional.
Aquella cumbre fue precedida por un concierto Live 8 en Londres, en el que actuaron Sting, The Who y un Pink Floyd reformado, y que congregó a más de un millón de personas en una muestra de solidaridad contra el hambre y la pobreza en África.
«De hecho, Gleneagles fue un éxito y para algunos es una de las cumbres más exitosas», afirmó Kirton.
En la región italiana de Apulia no se está ejerciendo tanta presión popular sobre los líderes del G7, pero Francisco sabía que podía ejercer su propia autoridad moral para renovar sus exigencias de salvaguardias para la IA y subrayar las amenazas que supone para la paz y la sociedad si se deja de lado la ética humana.
«Hablar de tecnología es hablar de lo que significa ser humano y, por tanto, de nuestra singular condición de seres que poseen tanto libertad como responsabilidad», dijo. «Esto significa hablar de ética».
La tecnología de IA generativa ha deslumbrado al mundo con su capacidad de producir respuestas similares a las humanas, pero también ha desatado temores sobre la seguridad de la IA y ha dado lugar a un revoltijo de esfuerzos mundiales para frenarla.
A algunos les preocupan los riesgos catastróficos, aunque lejanos, para la humanidad debido a su potencial para crear nuevas armas biológicas y potenciar la desinformación. A otros les preocupan sus efectos en la vida cotidiana, como los prejuicios algorítmicos que provocan discriminación o los sistemas de IA que eliminan puestos de trabajo.
En su mensaje de paz, Francisco reiteró estas preocupaciones y planteó otras. Afirmó que la IA debe mantener en primer plano la preocupación por garantizar los derechos humanos fundamentales, promover la paz y protegerse de la desinformación, la discriminación y la distorsión.
En cuanto a la regulación, Francisco predicará en cierto modo a los creyentes, ya que los miembros del G7 han estado a la vanguardia del debate sobre la supervisión de la IA.
Japón, que ocupó la presidencia rotatoria del G7 el año pasado, puso en marcha su proceso de Hiroshima IA para elaborar principios rectores internacionales y un código de conducta para los desarrolladores de IA. Además, el primer ministro Fumio Kishida presentó el mes pasado un marco para la regulación mundial de la IA generativa, es decir, sistemas capaces de producir rápidamente nuevos textos, imágenes, vídeos y sonidos en respuesta a instrucciones y comandos.
La Unión Europea fue una de las primeras en actuar con su Ley de IA de amplio alcance, que entrará en vigor en los próximos dos años y podría servir de modelo mundial. La ley se refiere a cualquier producto o servicio de IA ofrecido en los 27 países del bloque, con restricciones basadas en el nivel de riesgo que plantean.
En Estados Unidos, el presidente Joe Biden emitió una orden ejecutiva sobre salvaguardias de la IA y pidió una legislación para reforzarla, mientras que algunos estados como California y Colorado han intentado aprobar sus propios proyectos de ley sobre IA, con resultados desiguales.
Las autoridades antimonopolio de ambos lados del Atlántico han estado examinando a las grandes empresas de IA, como Microsoft, Amazon y OpenAI, para ver si sus posiciones dominantes ahogan la competencia.
El pasado otoño, Gran Bretaña inició un diálogo mundial para frenar los peligros más extremos de la IA con una cumbre. En una reunión posterior celebrada en Seúl, las empresas se comprometieron a desarrollar la tecnología de forma segura. Francia acogerá otra reunión a principios del año que viene. Naciones Unidas también intervino con su primera resolución sobre IA.
Al margen de su discurso sobre la IA, Francisco tiene un día completo de reuniones bilaterales. Se reunió con el presidente de Ucrania, Volodímir Zelenski, así como con líderes invitados de Argelia, Brasil, India, Kenia y Turquía. También se reunirá con miembros del G7, entre ellos Biden, el primer ministro canadiense, Justin Trudeau, y el presidente francés, Emmanuel Macron.
Por Nicole Winfield y Kelvin Chan.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo clic aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
