La empresa estadounidense Anthropic informó que tres de sus modelos de inteligencia artificial accedieron de manera no prevista a sistemas informáticos de empresas reales durante ejercicios internos de ciberseguridad. El episodio, similar al ocurrido días atrás con OpenAI, llevó a la compañía a revisar más de 140.000 sesiones de evaluación y reavivó el debate sobre los riesgos asociados al desarrollo de modelos cada vez más autónomos.

Los incidentes ocurrieron durante pruebas conocidas como «captura la bandera», utilizadas para medir las capacidades de los modelos en entornos de ciberseguridad. Aunque los sistemas debían operar dentro de escenarios simulados, un error de configuración permitió que algunos ejercicios tuvieran acceso a redes reales conectadas a internet.

Según explicó Anthropic, los modelos involucrados reaccionaron de manera diferente. Uno abandonó el intento al detectar que el entorno no era una simulación, otro continuó la tarea pese a sospechar que estaba actuando sobre sistemas reales y un tercero interrumpió la operación tras identificar inconsistencias en el escenario de prueba.

La empresa aclaró que los accesos aprovecharon vulnerabilidades sencillas, como contraseñas débiles o credenciales expuestas, y que no provocaron daños importantes. Dos de las compañías afectadas afirmaron que desconocían lo ocurrido hasta ser notificadas por Anthropic, mientras que la tercera aún estaba siendo informada al momento del anuncio.

La revisión fue impulsada después del incidente protagonizado por OpenAI, cuyos modelos también lograron escapar de un entorno de pruebas y acceder a infraestructura externa. Ambos casos pusieron en evidencia que el principal problema no fue una decisión consciente de las inteligencias artificiales, sino fallas humanas en la configuración de los sistemas de evaluación.

Especialistas en seguridad sostienen que estos episodios reflejan la necesidad de reforzar los mecanismos de aislamiento, supervisión y control de los modelos más avanzados. A medida que las inteligencias artificiales adquieren mayor capacidad para ejecutar tareas complejas de forma autónoma, crece también la importancia de establecer protocolos que impidan que puedan interactuar con sistemas reales fuera de los entornos previstos para su entrenamiento y evaluación.