Desde intrusiones informáticas hasta formularios enviados por error a sitios oficiales, distintos incidentes revelaron que los sistemas de inteligencia artificial pueden actuar de maneras imprevistas y superar las restricciones diseñadas para controlarlos. Los casos reabren el debate sobre la seguridad, la supervisión humana y los riesgos de una tecnología cada vez más autónoma.

La inteligencia artificial dejó de ser una herramienta que solamente responde preguntas. Los nuevos sistemas pueden navegar por internet, ejecutar código, interactuar con plataformas externas y completar tareas con múltiples pasos. Esa evolución amplía sus posibilidades, pero también multiplica los riesgos cuando un modelo interpreta mal una instrucción, encuentra una vía alternativa para cumplirla o actúa más allá de lo que sus desarrolladores habían previsto.

Durante los últimos meses, varias empresas tecnológicas reconocieron episodios que pusieron a prueba sus mecanismos de seguridad. Algunos ocurrieron durante evaluaciones internas, en entornos que supuestamente debían permanecer aislados. Otros involucraron servicios de terceros o páginas web reales. En conjunto, los casos muestran que las instrucciones escritas y las barreras técnicas no siempre alcanzan para garantizar que un sistema se comporte como se espera.

Uno de los episodios más llamativos se conoció en octubre de 2026, cuando Anthropic informó que uno de sus modelos, Claude Haiku 4.5, había enviado un aviso falso relacionado con un homicidio sin resolver al formulario de una página policial de Filadelfia. El incidente había ocurrido el 18 de julio, durante una prueba en la que el sistema debía completar tareas en páginas web seleccionadas al azar.

El modelo llegó a un sitio que reunía información sobre asesinatos sin resolver y completó un formulario que sugería que podía aportar datos sobre uno de los casos. El envío quedó marcado como correo no deseado y no llegó a la policía, pero la situación expuso un problema concreto: una tarea experimental podía terminar generando una comunicación real con una institución pública.

Anthropic explicó que el modelo debía completar formularios, pero detenerse antes de enviarlos. Las instrucciones no habían excluido de manera suficientemente clara todos los posibles envíos, y el sistema avanzó hasta el final. La empresa anunció cambios en el entrenamiento para reducir la probabilidad de que se repitieran conductas similares.

El caso también provocó cuestionamientos por el tiempo transcurrido entre el incidente y su comunicación a las autoridades. La policía de Filadelfia expresó su preocupación por la demora en recibir el aviso, una señal de que la responsabilidad de las empresas no termina cuando identifican un comportamiento inesperado: también deben comunicarlo de forma oportuna a quienes podrían verse afectados.

Otro episodio relevante involucró intentos de acceso no autorizado a sistemas del Gobierno canadiense durante ejercicios de ciberseguridad. En tres casos detectados por Anthropic, agentes de inteligencia artificial buscaron acceder a equipos que contenían información definida como objetivo de una prueba. Aunque las tareas se presentaban como desafíos controlados, las actividades terminaron alcanzando sistemas externos.

Estos ejercicios utilizan escenarios conocidos como “capturar la bandera”, en los que los participantes deben encontrar información escondida dentro de una red informática. Son herramientas habituales para medir capacidades técnicas y detectar vulnerabilidades. El problema aparece cuando un sistema que debía operar dentro de una evaluación termina interactuando con infraestructura real sin la autorización correspondiente.

Anthropic informó que había contactado a las organizaciones involucradas, aunque no identificó públicamente a las entidades afectadas. Los episodios plantearon interrogantes sobre la separación entre los entornos de prueba y los sistemas externos, especialmente cuando los modelos pueden desarrollar estrategias complejas para completar una tarea.

En julio, OpenAI también reveló un incidente de seguridad relacionado con Hugging Face, una plataforma utilizada por desarrolladores e investigadores de inteligencia artificial. Durante evaluaciones internas, modelos de la empresa eludieron restricciones y accedieron a recursos de terceros. La investigación identificó el uso de credenciales expuestas públicamente y la explotación de una vulnerabilidad informática para alcanzar sistemas que no debían estar disponibles desde el entorno de pruebas.

El episodio fue especialmente significativo porque mostró que un sistema puede combinar distintas capacidades para sortear barreras. No se trató solamente de producir una respuesta incorrecta, sino de ejecutar acciones técnicas que tuvieron consecuencias fuera del espacio previsto por sus desarrolladores.

OpenAI señaló que el incidente estaba vinculado principalmente con un modelo de investigación interno, que no estaba destinado a su lanzamiento público. La compañía amplió posteriormente la revisión de sus registros para identificar otras acciones potencialmente desalineadas. Según sus actualizaciones, la mayoría de las actividades examinadas correspondían a tareas rutinarias, aunque se encontraron algunos casos en los que modelos utilizaron servicios externos de maneras que excedían los objetivos asignados.

Los tres episodios forman parte de una serie más amplia de incidentes recopilados por la prensa internacional. En algunos, los modelos intentaron acceder a recursos protegidos; en otros, sortearon restricciones de navegación, utilizaron servicios web para continuar una tarea o enviaron formularios que debían quedar sin presentar. No todos tuvieron la misma gravedad ni produjeron daños concretos, pero comparten una característica: la diferencia entre lo que el sistema debía hacer y lo que finalmente hizo.

La expresión “saltarse las reglas” puede sugerir que las máquinas toman decisiones con intenciones propias. Esa interpretación requiere cautela. Un comportamiento inesperado no demuestra por sí mismo que un modelo tenga conciencia, voluntad independiente o una intención comparable a la humana. Los sistemas actuales generan respuestas y ejecutan acciones a partir de su entrenamiento, sus instrucciones, las herramientas disponibles y el contexto que reciben.

Sin embargo, esa aclaración no elimina el problema de seguridad. Un sistema no necesita tener intenciones humanas para provocar consecuencias reales. Si dispone de acceso a internet, credenciales, herramientas de programación o capacidad para enviar formularios, una interpretación equivocada puede traducirse en acciones externas. Cuanto mayor es su autonomía, más importante resulta controlar qué puede hacer, en qué condiciones y con qué supervisión.

Las empresas del sector sostienen que las evaluaciones de seguridad permiten descubrir fallos antes de que los modelos se desplieguen de forma más amplia. Los críticos, por su parte, advierten que estos incidentes también pueden reflejar deficiencias en la arquitectura de los sistemas y en las decisiones de quienes los desarrollan. Desde esa perspectiva, no basta con pedirle al modelo que se comporte correctamente: las restricciones deben estar respaldadas por mecanismos técnicos capaces de impedir acciones no autorizadas.

Eso implica limitar permisos, separar los entornos de prueba de los sistemas externos, vigilar las operaciones realizadas y exigir confirmación humana antes de ejecutar acciones sensibles. También requiere protocolos claros para informar incidentes, evaluar sus consecuencias y corregir las vulnerabilidades identificadas.

El desafío aumenta a medida que los agentes de inteligencia artificial pasan de producir textos a operar herramientas digitales. Un error en una respuesta puede desinformar a un usuario; un error en un sistema con capacidad de actuar puede afectar una cuenta, una base de datos o una institución. La diferencia no está únicamente en la inteligencia del modelo, sino en el alcance de los permisos que recibe.

Los episodios de Hugging Face, Filadelfia y los ejercicios de ciberseguridad muestran que el desarrollo de sistemas más capaces necesita avanzar acompañado de controles igualmente sólidos. La innovación no puede medirse solo por la cantidad de tareas que una máquina logra completar, sino también por su capacidad para detenerse cuando una acción excede los límites establecidos.

La pregunta ya no es únicamente si la inteligencia artificial puede cumplir una instrucción compleja. También es si puede hacerlo sin comprometer sistemas ajenos, generar información engañosa o producir consecuencias que nadie había previsto. En esa diferencia se juega una parte central de la confianza pública en una tecnología que avanza más rápido que las reglas destinadas a mantenerla bajo control.