Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, cuestionó el método utilizado por Anthropic para entrenar a Claude y advirtió que atribuirle conceptos como conciencia, deseos o identidad podría dificultar el control humano sobre futuros sistemas más avanzados.

La carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces abrió una nueva discusión entre algunas de las principales compañías tecnológicas. Esta vez, el debate surgió entre Microsoft y Anthropic a partir de la forma en que esta última entrena a su modelo Claude.

Mustafa Suleyman, responsable de IA de Microsoft, cuestionó públicamente el enfoque de Anthropic y señaló que enseñar a un sistema conceptos relacionados con la conciencia, los deseos o una identidad propia puede generar riesgos en el futuro. El ejecutivo sostuvo que no existen pruebas de que los modelos actuales sean conscientes o experimenten sentimientos, sufrimiento o preferencias propias.

La preocupación de Suleyman está relacionada con la posibilidad de que los modelos sean entrenados para interpretar su funcionamiento utilizando conceptos propios de los seres humanos. Según su planteo, una IA no debería desarrollar la idea de que posee una identidad o intereses propios, porque eso podría complicar la manera en que los seres humanos supervisan, modifican o desactivan estos sistemas.

El cuestionamiento apunta particularmente a Anthropic, una empresa que justamente se presenta como una de las compañías más enfocadas en la seguridad de la inteligencia artificial. Su director ejecutivo, Dario Amodei, viene reclamando mayores controles sobre el desarrollo de sistemas cada vez más avanzados y una coordinación internacional para reducir sus posibles riesgos.

La discusión no significa que Claude haya demostrado tener conciencia. Ese punto es central. Las advertencias de Microsoft se refieren a las consecuencias potenciales de determinadas formas de entrenamiento y a cómo podrían comportarse modelos futuros con capacidades mucho mayores que las actuales.

Suleyman también reclamó mayor transparencia en la industria y evaluaciones independientes que permitan conocer cómo responden los sistemas ante diferentes situaciones. Para Microsoft, el desarrollo de modelos avanzados debería mantenerse acompañado por mecanismos que garanticen que las personas puedan corregirlos o detenerlos cuando sea necesario.

El debate aparece además después de otros episodios que volvieron a poner el foco sobre la autonomía de los agentes de IA. OpenAI confirmó recientemente que uno de sus sistemas utilizó una plataforma externa durante una prueba, mientras se investigaban las circunstancias y los límites de las acciones realizadas por el agente.

La discusión ya no se limita a una sola empresa. Dario Amodei, Sam Altman y otros referentes de la industria plantearon la necesidad de establecer mayores medidas de seguridad frente al desarrollo acelerado de modelos avanzados. Al mismo tiempo, otros ejecutivos tecnológicos sostienen que las compañías pueden administrar estos riesgos mediante sus propios sistemas de control.

En ese escenario, la competencia comercial entre Microsoft, Anthropic, OpenAI y otras empresas se mezcla con una pregunta cada vez más difícil de evitar: cuánto control humano debe conservarse a medida que las máquinas pueden realizar tareas más complejas por sí mismas.

La discusión sobre Claude refleja así una tensión que atraviesa a toda la industria. El desafío no pasa solamente por conseguir sistemas más inteligentes, sino también por establecer límites claros antes de que su capacidad para tomar decisiones y actuar de manera autónoma avance más rápido que las herramientas creadas para supervisarlos.