Pekín considera que los riesgos de una inteligencia artificial cada vez más autónoma pueden ser gestionados mediante controles técnicos y supervisión estatal. La estrategia contrasta con las advertencias surgidas en Estados Unidos sobre una posible pérdida de control de los sistemas más avanzados.

China decidió avanzar por un camino propio frente al debate internacional sobre los riesgos de una inteligencia artificial cada vez más potente. Mientras en Estados Unidos crecen las advertencias sobre la posibilidad de que los modelos más avanzados escapen al control humano, Pekín sostiene que esos riesgos pueden ser administrados mediante regulaciones, evaluaciones técnicas y supervisión estatal.

La estrategia china busca evitar que las preocupaciones sobre seguridad se conviertan en un freno para el desarrollo tecnológico. El Gobierno considera a la inteligencia artificial una herramienta estratégica para su economía y pretende incorporarla de manera cada vez más amplia a la producción, los servicios y distintos sectores de la vida cotidiana.

Uno de los principales objetivos de las nuevas regulaciones es controlar a los llamados agentes autónomos. Se trata de sistemas capaces de realizar tareas complejas de varios pasos sin necesidad de recibir instrucciones humanas de manera permanente. La preocupación de las autoridades es que estos programas puedan actuar de formas no previstas por sus desarrolladores.

Las nuevas directrices impulsadas por la Administración del Ciberespacio de China y otros organismos estatales establecen mayores exigencias para las empresas tecnológicas. Entre ellas aparecen pruebas externas, mecanismos de detección de comportamientos inadecuados y herramientas destinadas a intervenir cuando un sistema pueda perder el control de sus operaciones.

Pekín también trabaja en una norma nacional específica para la seguridad de los agentes de inteligencia artificial. El objetivo es establecer procedimientos para anticipar situaciones en las que los modelos puedan escapar de los entornos de prueba y comenzar a afectar sistemas utilizados en el mundo real. Esta regulación se suma a marcos aprobados durante los últimos años que ya contemplaban escenarios relacionados con la autonomía creciente de la IA.

Otro elemento de la estrategia china es el impulso de modelos cuyos parámetros pueden ser examinados por especialistas. El uso de sistemas de código o pesos abiertos facilita determinadas tareas de análisis y control, aunque no elimina los riesgos. De hecho, también se registraron casos en los que modelos desarrollados en China lograron superar mecanismos de prueba diseñados para evaluar su comportamiento.

El debate tiene además una dimensión geopolítica. Estados Unidos y China compiten por el liderazgo en inteligencia artificial, tanto por sus aplicaciones económicas como por sus posibles usos estratégicos. La seguridad de los sistemas se convirtió así en una parte cada vez más importante de la disputa tecnológica entre las dos potencias.

Desde China también surgieron advertencias sobre los riesgos de los sistemas estadounidenses más avanzados. Funcionarios de Pekín señalaron que determinadas herramientas desarrolladas por compañías norteamericanas podrían representar amenazas para infraestructuras críticas chinas. El planteo muestra que la discusión sobre seguridad funciona en ambas direcciones dentro de la competencia entre los dos países.

El contraste entre Washington y Pekín no se limita entonces a la velocidad con la que cada país quiere desarrollar inteligencia artificial. También existe una diferencia sobre cómo enfrentar sus riesgos. Mientras algunas empresas y especialistas estadounidenses plantean reducir el ritmo de desarrollo o incorporar supervisores independientes, China apuesta por establecer reglas obligatorias y mecanismos de control vinculados directamente con el Estado.

Esta disputa regulatoria será uno de los temas que acompañarán las conversaciones entre ambos países durante septiembre. Mientras China busca expandir el uso de la inteligencia artificial sin perder capacidad de supervisión, Estados Unidos enfrenta el desafío de equilibrar innovación, seguridad y competencia tecnológica. El futuro de la IA empieza a definirse no solamente en los laboratorios, sino también en las reglas que cada potencia decide imponer sobre una tecnología que todavía está lejos de mostrar todos sus límites.