Naciones Unidas propuso un pacto internacional para proteger a niños y adolescentes frente a los riesgos de la inteligencia artificial. La iniciativa plantea que las empresas garanticen sistemas seguros, combatan los abusos digitales y coloquen los derechos de la infancia en el centro del desarrollo tecnológico.

Durante mucho tiempo, la tecnología llegó a la infancia con una promesa sencilla: más información, más oportunidades, más herramientas para aprender. Pero la inteligencia artificial abrió una nueva frontera, una donde las ventajas conviven con riesgos que todavía no terminamos de comprender. La pregunta que empieza a recorrer el mundo es tan incómoda como necesaria: ¿quién protege a los chicos cuando las máquinas también aprenden de ellos?

Con esa preocupación, la Organización de las Naciones Unidas impulsó un pacto mundial para establecer reglas de protección para niños y adolescentes frente al avance de la inteligencia artificial. La propuesta fue presentada por el secretario general de la ONU, António Guterres, durante el primer Diálogo Global sobre Gobernanza de la IA realizado en Ginebra.

El planteo parte de una idea central: los menores no pueden convertirse en el campo de prueba de una tecnología que avanza más rápido que las normas creadas para controlarla. Entre las medidas propuestas aparecen la obligación de que las empresas evalúen la seguridad de sus sistemas antes de ofrecerlos a niños, la prohibición de contenidos generados por IA vinculados al abuso sexual infantil y la creación de mecanismos que deriven a ayuda humana cuando una herramienta detecte situaciones de angustia o riesgo.

La preocupación no es abstracta. La inteligencia artificial ya participa en la vida cotidiana de millones de chicos: acompaña tareas escolares, recomienda contenidos, responde preguntas y puede convertirse en una presencia constante en sus espacios de aprendizaje y entretenimiento. Pero también puede ser utilizada para fabricar imágenes falsas, facilitar el acoso, vulnerar la privacidad o amplificar desigualdades.

El desafío es particularmente complejo porque la tecnología no conoce fronteras. Un adolescente en cualquier ciudad del mundo puede interactuar con sistemas desarrollados a miles de kilómetros de distancia, bajo leyes diferentes y con criterios de seguridad que no siempre son transparentes. Por eso la ONU insiste en la necesidad de una respuesta internacional coordinada y basada en derechos humanos.

La discusión también abre un debate más profundo sobre el lugar de la infancia en la revolución tecnológica. Durante décadas, la sociedad estableció controles para proteger a los chicos frente a productos físicos: medicamentos, juguetes o alimentos deben pasar evaluaciones antes de llegar a sus manos. La pregunta ahora es por qué las herramientas digitales deberían quedar fuera de esa lógica de cuidado.

La inteligencia artificial puede ser una enorme oportunidad para mejorar la educación, la salud y el acceso al conocimiento. Pero sin reglas claras, también puede reproducir viejas desigualdades con nuevas formas. El desafío no es detener la tecnología, sino evitar que la velocidad del cambio deje atrás a quienes más necesitan protección.

En la era de los algoritmos, la pregunta más importante sigue siendo profundamente humana: qué tipo de futuro estamos construyendo para quienes todavía están aprendiendo a habitar el mundo.