La empresa detrás de Claude detectó y frenó cinco casos en los que sus modelos fueron utilizados en investigaciones biológicas de alto riesgo, mientras crece la preocupación internacional por el uso indebido de sistemas de inteligencia artificial.

Anthropic informó que durante 2026 detectó y bloqueó cinco intentos de utilizar sus modelos de inteligencia artificial en investigaciones que podían contribuir al desarrollo de armas biológicas. La compañía explicó que algunos usuarios intentaron sortear sus mecanismos de seguridad para acceder a capacidades que podían representar un riesgo.

Los casos fueron incluidos en un nuevo informe de amenazas de la empresa, que busca mostrar cómo los sistemas de IA pueden ser utilizados para actividades peligrosas. Anthropic señaló que no pudo determinar en todos los episodios si los investigadores tenían intenciones maliciosas, pero consideró que el potencial de uso indebido era suficientemente elevado como para intervenir.

Una de las principales preocupaciones está relacionada con las investigaciones biológicas de doble uso. Se trata de conocimientos que pueden servir para fines legítimos, como desarrollar tratamientos o estudiar enfermedades, pero que también podrían ser utilizados de manera perjudicial. Esa frontera cada vez más difícil de distinguir es uno de los grandes desafíos que plantea la expansión de la inteligencia artificial.

Según Anthropic, algunos accesos provinieron de personas ubicadas en países donde la empresa no ofrece oficialmente sus servicios. Para conseguir utilizar los modelos, habrían recurrido a cuentas falsas o intermediarios que revendían el acceso. La compañía detectó esos comportamientos y procedió a bloquearlos.

El informe también encendió las alarmas sobre otros usos potencialmente peligrosos de la inteligencia artificial, vinculados con ciberseguridad, armas convencionales y campañas de manipulación de información. El problema, según la empresa, no pasa únicamente por lo que los modelos pueden hacer por sí mismos, sino por la capacidad que pueden brindar a personas que ya buscan realizar actividades dañinas.

La revelación se conoce en medio de un debate mucho más amplio sobre la velocidad con la que avanza la inteligencia artificial. Dario Amodei, CEO de Anthropic, viene reclamando mayores controles y una reducción del ritmo de desarrollo de los sistemas más avanzados. Su propuesta recibió el respaldo de figuras como Sam Altman, Elon Musk y Demis Hassabis, aunque también generó críticas por considerar que las propias empresas tecnológicas no deberían ser las únicas encargadas de establecer las reglas.

La discusión ya llegó a los gobiernos. Legisladores de Estados Unidos y otros países comenzaron a reclamar mecanismos de supervisión capaces de anticipar usos peligrosos de estas tecnologías. Al mismo tiempo, Washington enfrenta el dilema de regular la inteligencia artificial sin perder terreno frente a China en una carrera considerada estratégica para la economía y la seguridad nacional.

El caso de Anthropic muestra que algunos de los riesgos que hasta hace poco parecían propios de escenarios futuros ya forman parte de las discusiones actuales. La inteligencia artificial puede acelerar investigaciones científicas y abrir nuevas posibilidades, pero también puede convertirse en una herramienta de doble uso cuando sus capacidades llegan a manos equivocadas.

La pregunta que queda abierta es quién debe establecer los límites. Las empresas pueden incorporar barreras y detectar comportamientos sospechosos, pero la magnitud del desafío supera a cualquier compañía individual. A medida que los modelos se vuelven más capaces, la discusión sobre su seguridad deja de ser exclusivamente tecnológica y pasa a convertirse en una cuestión política, científica y global.