La empresa Cathedral utilizó agentes de inteligencia artificial para encontrar vulnerabilidades en programas administrativos de la creadora de Claude y acceder a información interna sensible. Anthropic confirmó una intrusión limitada, aunque aseguró que no quedaron expuestas las conversaciones de los usuarios ni el código de sus modelos. El episodio vuelve a poner en discusión la seguridad de las empresas que desarrollan inteligencia artificial.

La inteligencia artificial se convirtió en una herramienta para detectar vulnerabilidades informáticas, pero también está modificando la velocidad con la que pueden encontrarse y aprovecharse las fallas de seguridad. Un episodio reciente en Anthropic, la compañía responsable de Claude, expuso esa contradicción: una startup de ciberseguridad aseguró haber encontrado vías de acceso a sistemas internos de la empresa en menos de 12 horas mediante agentes de inteligencia artificial.

La firma involucrada es Cathedral, una compañía especializada en seguridad informática fundada por antiguos integrantes del Departamento de Eficiencia Gubernamental de Estados Unidos, conocido como DOGE. Según un informe preliminar de la startup, sus agentes consiguieron acceder a información relacionada con reuniones internas, salarios, ofertas laborales y conversaciones de Slack sobre los modelos más avanzados de Anthropic.

La compañía afectada confirmó que los investigadores alcanzaron un conjunto limitado de sus sistemas de ventas, recursos humanos e informática. Sin embargo, rechazó que el episodio hubiera comprometido sus activos más sensibles y sostuvo que no se accedió a las conversaciones de los clientes con Claude, al código fuente ni a los parámetros que permiten el funcionamiento de sus modelos.

La diferencia entre ambas versiones es importante. Cathedral describió un acceso a información interna más amplio, mientras que Anthropic insistió en que el incidente estuvo limitado a determinados sistemas empresariales. La startup presentó sus hallazgos en el marco de un programa de investigación de vulnerabilidades, aunque la empresa de inteligencia artificial cuestionó que se hubieran respetado todas las condiciones de ese procedimiento.

El caso no se originó en una vulnerabilidad directa del modelo Claude. Los investigadores encontraron fallas en programas de terceros utilizados por Anthropic para gestionar tareas administrativas y comerciales. A partir de esos puntos débiles, consiguieron avanzar hacia sistemas internos que contenían información sensible.

Esa es una de las principales lecciones del episodio. Las empresas tecnológicas suelen invertir grandes recursos en proteger sus modelos, su infraestructura de desarrollo y sus datos más valiosos. Sin embargo, también dependen de herramientas externas para administrar personal, organizar reuniones, gestionar clientes y coordinar el trabajo cotidiano. Una debilidad en alguno de esos servicios puede abrir una puerta hacia información que debería permanecer restringida.

El problema no es exclusivo de la industria de la inteligencia artificial. Miles de organizaciones utilizan programas empresariales similares, por lo que una vulnerabilidad en un proveedor puede afectar a compañías de distintos sectores. En este escenario, la seguridad de una organización depende tanto de sus propias defensas como de las prácticas y los sistemas de las empresas con las que trabaja.

La intervención de los agentes de inteligencia artificial añade una dimensión nueva. Estas herramientas pueden ejecutar tareas de varios pasos, analizar información y buscar caminos alternativos cuando encuentran obstáculos. Aplicadas a la ciberseguridad, permiten automatizar parte de las tareas de investigación y explorar posibilidades a una velocidad que puede superar la de los procedimientos manuales tradicionales.

Esa capacidad puede utilizarse para proteger sistemas, encontrar errores antes de que sean explotados y fortalecer las defensas. Pero también significa que una persona o un equipo con recursos relativamente limitados puede investigar una superficie tecnológica compleja en menos tiempo. La misma automatización que facilita la detección de fallas puede ampliar las capacidades de quienes intentan aprovecharlas.

Anthropic afirmó que sus propios mecanismos de supervisión detectaron parte de la actividad antes de que Cathedral comunicara formalmente sus hallazgos. También aseguró que desactivó el acceso el mismo día, inhabilitó el software afectado hasta que los proveedores corrigieran las vulnerabilidades y notificó a funcionarios federales. La compañía agregó que no encontró indicios de que otros actores hubieran explotado esas fallas.

No obstante, la empresa cuestionó el alcance que Cathedral atribuyó al episodio y sostuvo que la startup no había informado todas sus actividades de acuerdo con las reglas del programa de investigación. Cathedral, por su parte, afirmó en su informe preliminar que había mantenido el acceso a los datos en el mínimo necesario para realizar las pruebas.

Ambas partes tienen intereses en la discusión. Para Anthropic, resulta fundamental delimitar el alcance del incidente y demostrar que sus sistemas más sensibles permanecieron protegidos. Para Cathedral, el caso representa una demostración de las capacidades de su tecnología y de la importancia de los servicios de seguridad que ofrece.

La startup había captado unos 160 millones de dólares y alcanzado una valoración de aproximadamente 1.400 millones. Además, había conseguido contratos con organismos del Gobierno estadounidense. El episodio, por lo tanto, también se inscribe en un mercado donde las empresas compiten por demostrar que sus herramientas pueden responder a amenazas cada vez más sofisticadas.

La preocupación llega en un momento en el que los sistemas de inteligencia artificial ocupan un lugar creciente en actividades económicas, científicas y gubernamentales. Protegerlos ya no significa solamente impedir que alguien robe un modelo o acceda a sus datos de entrenamiento. También exige revisar las conexiones con proveedores externos, controlar los permisos internos y detectar movimientos que puedan indicar una intrusión.

El caso plantea, además, una pregunta sobre el significado de la seguridad en una industria que desarrolla herramientas cada vez más poderosas. Una empresa puede contar con mecanismos avanzados para proteger sus modelos y, al mismo tiempo, mantener vulnerabilidades en sistemas administrativos que no reciben el mismo nivel de atención. Esa diferencia puede convertirse en un riesgo considerable cuando los agentes automatizados permiten explorar múltiples caminos de acceso.

La respuesta no pasa únicamente por incorporar más inteligencia artificial a las defensas. También requiere auditorías independientes, límites claros para los permisos de cada sistema, supervisión humana y procedimientos de respuesta capaces de contener una intrusión antes de que alcance información crítica. La velocidad para detectar una amenaza importa, pero también importa la capacidad de impedir que siga avanzando.

Por ahora, Anthropic sostiene que las conversaciones de los usuarios y los componentes centrales de Claude no fueron comprometidos. Esa distinción evita equiparar el episodio con una vulneración directa del modelo, aunque no elimina la importancia de la información empresarial a la que se habría accedido.

La inteligencia artificial está reduciendo el tiempo necesario para encontrar determinadas debilidades informáticas. El desafío para las empresas consiste en adaptar sus defensas a esa nueva velocidad sin confiar exclusivamente en herramientas automatizadas ni descuidar los sistemas cotidianos que sostienen sus operaciones.

El episodio de Cathedral deja una advertencia que va más allá de una compañía: en un mundo cada vez más automatizado, la seguridad digital no depende solamente de proteger la tecnología más sofisticada. También exige revisar las puertas menos visibles, aquellas que suelen pasar inadvertidas hasta que alguien encuentra la manera de atravesarlas.