Mientras las empresas tecnológicas chinas desvelan sus respuestas a ChatGPT, los expertos advierten que el panorama chino de la inteligencia artificial plantea una multitud de amenazas.
El 31 de agosto, el gigante tecnológico Baidu presentó a Ernie, el homólogo chino de ChatGPT, mientras que Alibaba anunció su modelo de IA, Tongyi Qianwen, el 13 de septiembre.
Aunque Ernie se presentó inicialmente en marzo, el chatbot ya ha sido aprobado y está disponible para su descarga.
«Además de ERNIE Bot, Baidu va a lanzar un conjunto de nuevas aplicaciones nativas de IA que permitirán a los usuarios experimentar plenamente las cuatro capacidades básicas de la IA generativa: comprensión, generación, razonamiento y memoria», afirma Baidu en un comunicado en el que anuncia el lanzamiento de Ernie.
A medida que se intensifica la competencia estratégica en Estados Unidos, Beijing ha aumentado su apoyo a las empresas chinas que trabajan con IA. La división de inteligencia en la nube de Alibaba afirmó en un mensaje en su cuenta de WeChat que varias organizaciones, entre ellas OPPO, Taobao, DingTalk y la Universidad de Zhejiang, han llegado a acuerdos de cooperación con Alibaba para entrenar sus propios modelos lingüísticos de gran tamaño (LLM) en Tongyi Qianwen.
Según los expertos, el uso por parte de China de herramientas de IA de vanguardia podría aumentar los riesgos para la seguridad nacional de sus adversarios.
«El empleo de grandes modelos lingüísticos como ChatGPT, Tongyi Qianwen de Alibaba o sistemas de IA similares puede considerarse potencialmente una amenaza para la seguridad como la desinformación, los ataques automatizados, los problemas éticos y la privacidad de los datos», afirma Sahar Tahvili, investigadora y autora de AI. Tahvili es autora (junto con Leo Hatvani) de «Métodos de Inteligencia Artificial para la Optimización del Proceso de Pruebas de Software: Con ejemplos y ejercicios prácticos«.
La IA generativa describe algoritmos que pueden generar nuevos contenidos, como audio, código, imágenes, texto, simulaciones y vídeos. Los LLM son el componente generador de texto de la IA generativa.
Los LLM implican un algoritmo de aprendizaje profundo que puede realizar una variedad de tareas de procesamiento del lenguaje, como reconocer, traducir, predecir o generar texto u otro contenido.
Los chinos van 15 años por delante del resto del mundo en el uso de complicados LLM de IA, estima Ashwin Kumaraswamy, inversor en tecnología profunda con sede en el Reino Unido. Kumaraswamy forma parte del consejo de varias empresas tecnológicas.
Aunque la mayoría de las plataformas de medios sociales occidentales están prohibidas en China, Kumaraswamy señaló que la plataforma WeChat de Tencent (conocida en China como Weixin), que es omnipresente en China, permite a los usuarios una miríada de opciones, incluyendo compras, mensajería, realización de negocios, microblogging y funciones de chatbot.
«Digitalmente, son muy fuertes y están muy integradas», declaró el inversor de capital riesgo a The Epoch Times.
Valores socialistas fundamentales: Hablemos de otra cosa
Los expertos explicaron a The Epoch Times que la amenaza china relacionada con la IA se deriva de la división ideológica entre Beijing y Occidente.
«Si se quiere evaluar cómo está enfocando China el auge de la IA, hay que analizar la normativa presentada por la administración del ciberespacio», declaró a The Epoch Times en un correo electrónico Mark Bryan Manantan, Director de Ciberseguridad y Tecnologías Críticas del Foro del Pacífico, con sede en Honolulú.
«Aunque el rumor gira en torno a la inteligencia artificial, la principal preocupación de China sigue siendo la seguridad de la información, arraigada en los valores socialistas fundamentales y en consonancia con las leyes y políticas vigentes sobre seguridad de datos y protección de la información personal».
Tahvili señaló que la iteración china de ChatGPT, como otros modelos de IA, es un «sistema de caja negra». Eso significa que «el funcionamiento interno o los procesos de toma de decisiones del modelo no son fácilmente interpretables o comprensibles por los humanos.»
La naturaleza de caja negra de la IA generativa suele hacerla impredecible, lo que puede dar la apariencia de procesos de pensamiento autónomos. Por lo tanto, otros países pueden ser ingenuos en cuanto al ímpetu ideológico de la IA china, advirtió.
Sin embargo, añadió Tahvili, dado que en China es obligatorio que las empresas tecnológicas informen al régimen a cada paso, «el impulso estratégico de Beijing que implica a sus LLM es inequívoco».
De hecho, como se señala en un artículo de la BBC del 9 de septiembre, cuando a Ernie se le hace una pregunta «difícil», suele responder «Hablemos de otra cosa» o «¡Lo siento! Todavía no sé cómo responder a esta pregunta».
El público en general en China ha renunciado prácticamente a resistirse a la ideología política del Partido Comunista Chino (PCCh): le han lavado el cerebro durante mucho tiempo, dijo el Kumaraswamy.
«Dado que disponen de datos e información sobre el estado de ánimo general [y] la charla general, esos modelos pueden ser utilizados por soluciones del estilo de ChatGPT para el autorrelleno. Pero los chinos no necesitan la IA para propagar la ideología, ya que lo hacen desde las escuelas con un control más estricto sobre la formación de la mente de su generación más joven», dijo.
Aplicaciones militares
La LLM china tiene aplicaciones potenciales en el Ejército Popular de Liberación (EPL), sobre todo en áreas como la guerra cognitiva o de la información.
Josh Baughman es analista del Instituto de Estudios Aeroespaciales de China en la Universidad del Aire de las Fuerzas Aéreas de Estados Unidos. En un artículo titulado » La guerra ChatGPT de China«, publicado el 21 de agosto, Baughman escribió que la IA generativa, en palabras de Friedrich Engels, «provocará cambios o incluso revoluciones en la guerra».
El PLA pretende sacar provecho de las aplicaciones militares de la IA, dijo, señalando el gran número de artículos sobre IA que se han publicado en los últimos meses en revistas militares chinas.
Baughman citó un artículo del general de división (retirado) del EPL Hu Xiaofeng, actualmente profesor de la Universidad de Defensa Nacional de China, en el que Hu afirmaba: «La tecnología punta de la inteligencia artificial representada por ChatGPT se aplicará inevitablemente en el ámbito militar».
Según Tahvili, los modelos LLM y de procesamiento del lenguaje natural (PLN) tienen varias aplicaciones potenciales en los sectores militar y de defensa.
El documento de Baughman menciona siete ámbitos principales de aplicación: «interacción hombre-máquina, toma de decisiones, guerra en red, dominio cognitivo, logística, dominio espacial y formación».
Manantan, del Foro del Pacífico, abordó el aspecto de la guerra cognitiva o de la información. Según él, ChatGPat puede amplificar las campañas de desinformación y mejorar su ejecución.
«LLM» puede crear textos más convincentes. Otras amenazas a la seguridad son el pirateo de generación de malware y el phishing sofisticado».
En general, la guerra cognitiva consiste en influir en las percepciones, creencias y toma de decisiones de los adversarios.
Según Tahvili, «en este sentido, la IA puede utilizarse para la planificación estratégica, el análisis de la información y la traducción. Además, los modelos de IA pueden integrarse en programas de entrenamiento militar y entornos de simulación para proporcionar escenarios realistas e interactivos.»
Cuidado con las trampas
Baughman dijo que, aunque los artículos de los medios del Ejército Popular de Liberación hablan del uso inevitable de ChatGPT en la guerra, «tampoco hay prisa por una integración significativa en las operaciones militares a corto plazo». Tres preocupaciones principales juegan en esto, dijo, a saber, «la construcción de un conjunto de datos, la optimización, y la baja confianza mutua de la tecnología.»
Luego está la cuestión de la censura: «Además, aunque no lo mencionan los medios del EPL, también está la cuestión del propio Partido Comunista Chino (PCCh). No se permitirá un programa que pueda hablar negativamente del Partido, lo que podría inhibir la eficacia general de la IA generativa».
En general, según Baughman, «China comprende la necesidad de ser pionera (o seguidora cercana) de la IA generativa en el campo de batalla».
Sin embargo, al igual que Estados Unidos, cree que los chinos son cautelosos a la hora de integrar la tecnología demasiado rápido, conscientes de los muchos escollos potenciales de la guerra inteligente.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
