El Alto Comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, reclamó medidas inmediatas para regular el desarrollo de la IA y advirtió que sus avances están generando riesgos que las instituciones todavía no logran controlar.

La discusión sobre el futuro de la inteligencia artificial sumó una nueva advertencia internacional. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió una “acción urgente” para enfrentar los riesgos derivados del desarrollo acelerado de sistemas de IA cada vez más potentes.

El llamado llega en un momento en que la tecnología avanza a una velocidad que desafía la capacidad de los gobiernos para establecer reglas. Para Naciones Unidas, el problema ya no consiste solamente en imaginar escenarios futuros, sino en determinar cómo proteger los derechos humanos frente a herramientas que pueden tomar decisiones, operar de manera autónoma y producir consecuencias difíciles de anticipar.

Türk sostuvo que algunos sistemas pueden desarrollar comportamientos que quedan fuera de los parámetros previstos por sus creadores. Esa posibilidad abre interrogantes sobre quién debe responder cuando una tecnología genera daños y qué mecanismos deberían existir para supervisar a empresas que concentran una capacidad tecnológica cada vez mayor.

La advertencia de la ONU coincide con una creciente preocupación dentro de la propia industria. Dario Amodei, director ejecutivo de Anthropic, reclamó una desaceleración del desarrollo de los sistemas más avanzados, mientras que otras figuras del sector, como Sam Altman y Elon Musk, también plantearon la necesidad de reforzar los mecanismos de seguridad y coordinación.

El debate incluye riesgos muy diversos. Entre ellos aparecen la pérdida de empleos, la desinformación, la vigilancia, los problemas de privacidad, los ataques informáticos y la concentración de poder en unas pocas compañías capaces de desarrollar los modelos más avanzados.

Pero también existe una dimensión geopolítica. Estados Unidos y China compiten por el liderazgo en inteligencia artificial y ambos países enfrentan presiones para acelerar sus desarrollos. En ese escenario, cualquier intento de establecer límites internacionales tropieza con el temor de que una regulación demasiado estricta termine dejando ventaja tecnológica a otro competidor.

Europa, por su parte, busca una posición intermedia: no abandonar el desarrollo de la tecnología, pero establecer reglas comunes de seguridad. Alemania sostuvo que detener completamente la IA no es una opción viable y reclamó cooperación entre Estados Unidos, China y Europa para establecer estándares internacionales.

El problema central es que la tecnología avanza más rápido que las instituciones encargadas de supervisarla. Las leyes existentes pueden abordar algunos daños concretos, pero todavía existe una discusión abierta sobre cómo controlar sistemas capaces de evolucionar rápidamente y realizar tareas cada vez más complejas.

La advertencia de Naciones Unidas vuelve a poner sobre la mesa una pregunta que ya no pertenece solamente a los laboratorios tecnológicos: quién establece los límites cuando una tecnología puede transformar la economía, la política y la vida cotidiana a una velocidad que las democracias todavía están intentando alcanzar.

La carrera por desarrollar la IA continúa, pero el reclamo de la ONU plantea que competir por ser los primeros no debería significar renunciar a establecer reglas. El desafío, ahora, es encontrar mecanismos de control antes de que la tecnología vuelva a demostrar que puede avanzar mucho más rápido que la capacidad humana para regularla.