Los máximos referentes de Anthropic, OpenAI, Google DeepMind y xAI respaldaron la necesidad de reducir el ritmo de desarrollo de los sistemas más avanzados y reforzar los controles antes de que la tecnología avance más rápido que su regulación.

La carrera por desarrollar la inteligencia artificial más poderosa del mundo acaba de encontrar una coincidencia poco habitual. Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis, referentes de algunas de las principales compañías del sector, coincidieron en que el ritmo actual de avance debe ser más cuidadoso y estar acompañado por nuevas medidas de seguridad.

El planteo tomó fuerza después de que Amodei, CEO de Anthropic, publicara un documento en el que reclamó desacelerar el desarrollo de los modelos más avanzados. Su propuesta no consiste en detener la inteligencia artificial, sino en darle tiempo a la sociedad, los gobiernos y las propias empresas para establecer mecanismos que permitan controlar los riesgos que aparecen a medida que aumentan sus capacidades.

Entre las medidas planteadas aparecen evaluaciones independientes de los nuevos sistemas, acuerdos de seguridad entre las empresas y una mayor coordinación internacional. La idea es que los controles no queden únicamente en manos de quienes desarrollan la tecnología, sino que existan mecanismos externos capaces de evaluar sus posibles consecuencias antes de que los modelos lleguen al público.

La adhesión de Sam Altman resulta especialmente significativa. El CEO de OpenAI, una de las empresas que más ha impulsado la expansión de la inteligencia artificial generativa, respaldó el planteo de Amodei. También lo hizo Elon Musk, fundador de xAI, mientras que Hassabis, jefe de Google DeepMind, consideró que desacelerar el desarrollo es el camino correcto, aunque señaló que todavía deben definirse los detalles.

La coincidencia aparece en un momento de creciente preocupación dentro de la propia industria. Las empresas están compitiendo por construir sistemas cada vez más capaces y la presión comercial es enorme. Pero cuanto mayor es la capacidad de estos modelos, también aumenta la necesidad de saber qué pueden hacer, cómo pueden ser utilizados y qué mecanismos existen para limitar sus errores o usos indebidos.

Anthropic ya advirtió sobre casos en los que sus modelos fueron utilizados de manera maliciosa y sobre sistemas capaces de participar en operaciones informáticas cada vez más complejas. Para Amodei, estos episodios muestran que algunos riesgos dejaron de pertenecer exclusivamente al terreno de la ciencia ficción y requieren respuestas concretas.

Sin embargo, la propuesta también genera desconfianza. Algunos críticos señalan que las grandes compañías podrían utilizar el discurso de la seguridad para impulsar regulaciones que terminen favoreciendo a las empresas que ya dominan el mercado y dificultando la aparición de nuevos competidores. La pregunta, en ese sentido, no es solamente cuánto regular, sino quién tendrá el poder de establecer las reglas.

El debate además está atravesado por la competencia entre Estados Unidos y China. Frenar el ritmo de desarrollo podría permitir que otros países avancen en una carrera tecnológica considerada estratégica por Washington. De hecho, el presidente de la Cámara de Representantes estadounidense, Mike Johnson, ya rechazó una moratoria y advirtió que una pausa podría darle una ventaja a Beijing.

Así, la inteligencia artificial empieza a enfrentar una contradicción propia de su tiempo: quienes durante años compitieron por acelerar la tecnología ahora reconocen que quizás sea necesario levantar el pie del acelerador. El desafío será encontrar un equilibrio entre innovación y seguridad, sin permitir que el futuro de una herramienta con impacto global quede decidido únicamente por las empresas que tienen los recursos para construirla.