Jacob Coxon, quien trabajó durante años en OpenAI y Anthropic, dejó la empresa y cuestionó la velocidad con la que las grandes compañías desarrollan sistemas cada vez más capaces. Un referente de seguridad de Anthropic respaldó parte de sus advertencias y reconoció que todavía no existe un plan claro para controlar una eventual superinteligencia.

La carrera por desarrollar una inteligencia artificial cada vez más avanzada abrió una nueva grieta dentro de la propia industria. Jacob Coxon, un investigador de 27 años que trabajó en OpenAI y luego en Anthropic, anunció su renuncia y sostuvo que ambas compañías están avanzando hacia sistemas capaces de mejorarse a sí mismos sin contar todavía con garantías suficientes sobre sus riesgos.

Coxon explicó que decidió abandonar Anthropic después de considerar que la competencia entre las grandes empresas tecnológicas está empujando a la industria hacia una carrera difícil de frenar. Según su planteo, las compañías temen que si una de ellas reduce el ritmo, otra ocupe rápidamente ese espacio y termine desarrollando primero sistemas mucho más poderosos.

El investigador había trabajado durante los últimos tres años en el entrenamiento de modelos de inteligencia artificial. Primero pasó por OpenAI y luego se incorporó a Anthropic, una empresa que había elegido precisamente por su reputación en materia de seguridad. Sin embargo, afirmó que incluso dentro de las compañías que toman en serio los riesgos existe una presión creciente por acelerar el desarrollo.

Uno de los puntos centrales de su advertencia es la llamada “superinteligencia”: un escenario hipotético en el que una IA supera ampliamente las capacidades humanas y puede participar en el desarrollo de nuevas generaciones de sistemas. Coxon sostiene que esa posibilidad podría acercarse más rápido de lo previsto y que los mecanismos actuales de seguridad no ofrecen garantías suficientes.

Sus declaraciones encontraron eco dentro de la propia Anthropic. Evan Hubinger, responsable de investigación de alineamiento de la compañía, coincidió públicamente con Coxon en que existe un riesgo importante asociado al desarrollo de sistemas superinteligentes. Hubinger estimó personalmente que la posibilidad de que una IA provoque una catástrofe de escala humana durante la próxima década es superior al 10 por ciento.

Pero Hubinger también hizo una distinción importante: consideró bajo el riesgo de los modelos actuales y señaló que su preocupación está puesta principalmente en una eventual superinteligencia capaz de mejorar sus propias capacidades. Al mismo tiempo, reconoció que Anthropic todavía no cuenta con un plan suficientemente desarrollado para resolver el problema del alineamiento de esos sistemas.

El debate no ocurre en el vacío. Las empresas de inteligencia artificial compiten por desarrollar modelos más potentes mientras buscan inversiones multimillonarias y preparan nuevos productos. Esa presión económica puede entrar en tensión con las medidas de seguridad, especialmente cuando una compañía teme quedar atrás frente a sus competidores.

La discusión también llegó a los gobiernos. Más de mil trabajadores de la industria tecnológica respaldaron recientemente iniciativas para establecer mecanismos que permitan desacelerar coordinadamente el desarrollo de los sistemas más avanzados. La idea no apunta necesariamente a frenar la innovación, sino a establecer reglas comunes para evitar que la competencia termine convirtiéndose en una carrera sin límites.

Por ahora, ninguna de estas advertencias demuestra que una inteligencia artificial vaya a provocar una catástrofe. Son evaluaciones de investigadores que trabajan precisamente sobre los riesgos futuros de la tecnología. Pero tienen un peso particular porque provienen de personas que conocen desde adentro cómo se desarrollan estos sistemas.

La pregunta que queda sobre la mesa no es solamente hasta dónde puede llegar la inteligencia artificial, sino quién decide cuándo es demasiado rápido. Mientras las empresas compiten por construir máquinas cada vez más capaces, una parte de sus propios investigadores empieza a reclamar algo que suele quedar detrás de la carrera tecnológica: tiempo, controles y reglas antes de descubrir demasiado tarde qué límites no podían cruzarse.