China alerta sobre los riesgos de la inteligencia artificial para su seguridad política e infraestructuras críticas

El asunto tiene antecedentes documentados. Las estafas con clonación de voz mediante IA muestran desde hace tiempo cómo estas herramientas se emplean en ataques de ingeniería social dirigidos, un ejemplo del tipo de uso que Pekín coloca en el terreno de la seguridad del Estado.

Vulnerabilidades, malware y el riesgo para las infraestructuras críticas

Chen también aludió a la creciente capacidad de la IA para detectar vulnerabilidades en los sistemas y crear programas maliciosos o software destinado a explotar esas debilidades. En el mercado ya existen herramientas que rastrean repositorios en busca de fallos desde la terminal, como Codex Security CLI de OpenAI, una muestra de cómo esa capacidad se traduce en productos concretos.

Para Pekín el riesgo no se limita al software malicioso. Los rastreadores web, los sistemas de minería de datos y las herramientas de elaboración de perfiles basados en IA podrían reforzar la capacidad de los servicios de inteligencia extranjeros para recopilar información sensible, incluidos datos estatales, secretos comerciales e información personal.

El nivel de capacidad cibernética de los modelos de lenguaje es un debate abierto en la industria. OpenAI clasificó en septiembre la capacidad cibernética de su modelo GPT-6 Astra en nivel Critical, una discusión técnica que en China se lee también en clave de seguridad nacional.

Controles tecnológicos, estándares y código cerrado

El ministro advirtió de que los países con ventaja en el ámbito de la IA podrían invocar la seguridad nacional para imponer controles tecnológicos, «monopolizar» los estándares industriales y crear ecosistemas de código cerrado. Es una línea similar a la oposición expresada por el presidente Xi Jinping en julio a ampliar el concepto de seguridad nacional.

El debate paralelo en Estados Unidos

La publicación coincidió con los llamamientos de responsables de algunas de las principales empresas tecnológicas estadounidenses a adoptar un ritmo de desarrollo más prudente, aunque no hay indicios de que ambas iniciativas estuvieran coordinadas. El texto chino no mencionaba las peticiones de Anthropic PBC y OpenAI para ralentizar la carrera por desarrollar modelos de vanguardia.

Dario Amodei, cofundador de Anthropic, defendió el sábado en una publicación de su blog que las capacidades de la IA avanzan más rápido que las medidas de protección, y propuso una coordinación entre las empresas, Estados Unidos y otras democracias. El enfoque del ministro chino es distinto: aborda los riesgos desde el control político, la soberanía tecnológica, las amenazas extranjeras y la rivalidad estratégica.

El artículo constituye una de las exposiciones más claras de Pekín sobre cómo evalúa los peligros que plantea la IA. Su publicación coincidió en el tiempo con las peticiones de prudencia de Anthropic y OpenAI, sin evidencia de coordinación entre ambos frentes.