Hablar de IA y armas nucleares nunca ha sido fácil: China y Estados Unidos se han puesto de acuerdo para hacerlo

Estados Unidos y China son las dos potencias mundiales que lideran el desarrollo y la aplicación de la inteligencia artificial (IA), una tecnología que tiene el potencial de transformar la economía, la sociedad y la seguridad global. Sin embargo, también son rivales estratégicos que compiten por la influencia y el poder en el escenario internacional.

Por eso, es crucial que ambos países se sienten a dialogar sobre los riesgos y las oportunidades que plantea la IA, especialmente en el ámbito militar, donde las armas automatizadas y los modelos de vanguardia podrían desencadenar conflictos catastróficos.

¿Qué se juegan Estados Unidos y China en el diálogo sobre la inteligencia artificial?

Estados Unidos y China han acordado crear un grupo de trabajo sobre IA, que se reunirá esta primavera, para tratar temas de seguridad, ética y gobernabilidad de la IA.

Este diálogo se basa en la Declaración de Bletchley, que firmaron 28 países, incluidos China y Estados Unidos, en noviembre de 2023, para promover el desarrollo responsable de la IA. No obstante, los expertos dicen que no será fácil pasar de la teoría a la práctica, porque hay muchas diferencias entre las visiones e intereses de ambos países.

Uno de los temas más difíciles es el de las armas autónomas, que pueden atacar sin intervención humana. Estas armas plantean problemas éticos, legales, morales, y riesgos de escalada, inestabilidad y errores.

Por eso, muchos actores internacionales han pedido prohibir o regular las armas autónomas. Sin embargo, Estados Unidos y China no han querido comprometerse con estas iniciativas, ¿Por qué?, porque quieren mantener su ventaja militar y su soberanía nacional.

Según Xiaomeng Lu, que ha participado en conversaciones informales entre Estados Unidos y China, ambos países tienen un interés común en evitar consecuencias no deseadas, como que la IA active armas nucleares o cause daños colaterales.

Pero también tienen definiciones distintas de lo que es un arma autónoma y de lo que implica tener un control humano adecuado. Además, hay desconfianza mutua sobre las intenciones y las capacidades de cada uno, posiblemente debido a los avances tecnológicos en el ámbito militar, pareciese que necesitan anunciar al mundo que están listos para una guerra.

Otro tema delicado es el de los modelos de inteligencia artificial de vanguardia, que usan muchos datos y algoritmos complejos para hacer tareas que antes requerían inteligencia humana, como reconocer caras, traducir idiomas o generar texto.

Estos modelos tienen un gran potencial para mejorar la productividad, la innovación y el bienestar, pero también plantean desafíos de seguridad, como la ciberdelincuencia, la desinformación o la manipulación. Por eso, la Declaración de Bletchley dice que estos modelos son especialmente preocupantes y requieren más cooperación y transparencia.

Pero según Paul Triolo, líder de políticas tecnológicas de la consultora Albright Stonebridge Group, Estados Unidos y China tienen visiones opuestas sobre cómo gestionar estos modelos. Mientras que Estados Unidos defiende un "enfoque abierto y de mercado", que estimule la competencia y la innovación, China defiende un "enfoque cerrado y controlado", que proteja su soberanía y su seguridad nacional.

Aunque estas afirmaciones se pueden desafiar y refutar con las numerosas restricciones que Estados Unidos ha puesto a China en el ámbito tecnológico y comercial, lo cierto es que los dos países se consideran competidores en la lucha por el dominio tecnológico y temen perder su ventaja competitiva.