A medida que los sistemas de inteligencia artificial ganan autonomía y pueden conectarse con múltiples dispositivos y servicios, detenerlos se vuelve más complejo. Los especialistas explican por qué un simple botón de emergencia no siempre sería suficiente.
La idea de apagar una inteligencia artificial parece sencilla: encontrar el interruptor y detener el sistema. Pero en la práctica, la respuesta depende de cómo esté construida y de qué capacidades tenga. Una IA que funciona en una computadora aislada puede interrumpirse con relativa facilidad. El problema aparece cuando comienza a operar sobre distintos sistemas y a ejecutar tareas de manera autónoma.
En ciberseguridad existe el concepto de “kill switch”, una herramienta pensada para interrumpir de emergencia las acciones de un agente de inteligencia artificial. Nicolas Papernot, especialista en seguridad informática e IA de la Universidad de Toronto, explica que estos sistemas siguen siendo programas informáticos y que, cuando están bajo control de sus operadores, pueden detenerse quitándoles el acceso a los recursos necesarios para funcionar.
La dificultad aumenta cuando una IA tiene permisos para interactuar con otros programas, archivos o dispositivos. En ese escenario, detener el sistema principal no necesariamente revierte las acciones que ya fueron ejecutadas. Cuanto mayor sea la cantidad de herramientas y entornos a los que tenga acceso, más puntos deberán ser controlados para conseguir una interrupción completa.
Los especialistas plantean distintos niveles de complejidad. Un sistema completamente aislado puede contar con un mecanismo de emergencia relativamente sencillo. Uno que pueda modificar archivos o interactuar con otras máquinas requiere controles adicionales. Y cuando un agente puede extender sus acciones a múltiples sistemas, el desafío pasa de encontrar un único interruptor a identificar todos los elementos que deberían ser detenidos.
Ese escenario también permite entender por qué la imagen de un gran botón capaz de apagar toda la inteligencia artificial resulta engañosa. Thierry Poibeau, investigador del Centro Nacional de Investigación Científica de Francia, señala que no existe una única IA controlada desde un mismo lugar, sino una enorme cantidad de empresas, programas y servicios diferentes.
La discusión tampoco se limita a un escenario extremo. La inteligencia artificial ya comienza a incorporarse en actividades cotidianas, empresas, administraciones y servicios esenciales. Si estos sistemas se vuelven cada vez más importantes para determinadas tareas, una interrupción generalizada podría afectar también aplicaciones legítimas y servicios de los que dependen millones de personas.
Por eso, otro de los problemas es decidir qué debería apagarse y cuándo. Nicolas Papernot advierte que, a medida que la IA se integra en más ámbitos, puede resultar más difícil distinguir entre un sistema que representa un riesgo y otro que cumple una función legítima. Una medida pensada para evitar un problema podría terminar afectando también operaciones necesarias.
El debate también modifica la manera de pensar la seguridad de estas tecnologías. No alcanza solamente con desarrollar modelos capaces de realizar tareas cada vez más complejas. También resulta necesario establecer mecanismos de supervisión, límites de acceso y formas de intervención humana que permitan actuar cuando un sistema se comporte de manera inesperada.
Los investigadores coinciden en que las máquinas pueden ser detenidas, pero advierten que hacerlo puede resultar mucho más complicado cuando los sistemas están distribuidos y conectados entre sí. En esos casos, el desafío no es imaginar una inteligencia artificial con voluntad propia, sino comprender hasta dónde llegan sus conexiones y qué consecuencias puede tener desconectarla.
La pregunta sobre si se puede apagar una IA tiene, entonces, una respuesta menos cinematográfica de lo que parece. Sí, un sistema concreto puede ser detenido. Lo que se vuelve cada vez más difícil es garantizar que una inteligencia artificial distribuida, autónoma y conectada a múltiples servicios pueda ser interrumpida por completo sin afectar todo aquello que funciona alrededor de ella.
