El algoritmo también puede hacer daño: la batalla para poner límites a las redes sociales

En este momento estás viendo El algoritmo también puede hacer daño: la batalla para poner límites a las redes sociales
  • Categoría de la entrada:Divulgación
  • Tiempo de lectura:6 minutos de lectura

Las grandes plataformas enfrentan una creciente ola de demandas por los efectos de sus diseños sobre los usuarios jóvenes. Mientras Meta acordó pagar hasta 18.000 millones de dólares en Estados Unidos, gobiernos y legisladores buscan una respuesta a una pregunta cada vez más difícil de esquivar: quién debe hacerse responsable cuando una tecnología diseñada para captar atención termina provocando daños.

Durante años, las redes sociales fueron presentadas como una revolución de la comunicación. Permitieron hablar con alguien del otro lado del mundo, encontrar comunidades, compartir información y convertir un teléfono en una ventana permanente hacia los demás.

Pero esa ventana también puede ser difícil de cerrar.

La discusión cambió de escala en los últimos años. Ya no se debate solamente qué contenidos circulan por Facebook, Instagram, TikTok o YouTube. El foco empieza a desplazarse hacia una cuestión más profunda: cómo están diseñadas esas plataformas y qué incentivos tienen para conseguir que sus usuarios permanezcan conectados el mayor tiempo posible.

El modelo económico es relativamente sencillo. Cuanto más tiempo pasan las personas dentro de una plataforma, más oportunidades existen para mostrar publicidad. Meta, propietaria de Facebook e Instagram, obtuvo en 2025 unos 196.200 millones de dólares en ingresos publicitarios, según los datos citados por Deutsche Welle.

El problema aparece cuando captar atención deja de ser solamente una estrategia comercial y comienza a generar consecuencias sobre quienes utilizan esos servicios.

Especialmente entre los más jóvenes.

En Estados Unidos, 29 estados presentaron demandas contra Meta en las que sostienen que la empresa diseñó sus plataformas para favorecer un uso adictivo entre niños y adolescentes. La ofensiva judicial forma parte de una discusión mucho más amplia sobre la responsabilidad de las compañías tecnológicas frente a los efectos de sus productos.

El miércoles 26 de agosto, Meta aceptó pagar hasta 18.000 millones de dólares a 47 estados, el Distrito de Columbia y territorios estadounidenses, además de un acuerdo adicional de 1.000 millones de dólares con Texas. Como parte del acuerdo, la empresa también aceptó implementar límites de uso y bloquear el acceso de adolescentes a sus aplicaciones durante la noche.

El monto es enorme.

Pero la cifra más importante quizás sea otra: qué cambia después de pagar.

Porque una multa, incluso una de miles de millones de dólares, no necesariamente modifica el funcionamiento de un modelo de negocio. La verdadera discusión está en si las plataformas tendrán que cambiar la manera en que diseñan sus productos, sus algoritmos y sus sistemas de recomendación.

Durante años, la regulación llegó detrás de la tecnología.

Cuando aparecía una nueva plataforma, los legisladores tardaban en comprender su funcionamiento. Cuando aparecía un nuevo problema, las leyes existentes muchas veces no tenían herramientas suficientes para responder. Y mientras los gobiernos discutían, las compañías podían modificar sus productos a una velocidad mucho mayor.

Esa diferencia de ritmo se convirtió en uno de los grandes desafíos de la era digital.

Los estudios citados por DW vinculan el uso de redes sociales durante la adolescencia con mayores niveles de ansiedad, depresión e insatisfacción corporal. También documentos internos de Meta que salieron a la luz en 2021 mostraron que investigadores de la propia compañía habían detectado vínculos entre Instagram y problemas relacionados con la imagen corporal y la salud mental en algunas adolescentes.

Eso no significa que las redes sociales sean responsables de todos los problemas de salud mental entre los jóvenes.

La realidad es bastante más compleja.

Pero sí plantea una pregunta razonable: si una empresa conoce determinados riesgos asociados con el funcionamiento de su producto, ¿hasta dónde llega su responsabilidad para reducirlos?

Ahí aparece una de las discusiones centrales.

Algunos especialistas sostienen que las redes deberían estar sometidas a estándares de seguridad similares a los que existen para otros productos de consumo. Otros plantean que las plataformas necesitan reglas específicas porque no se trata simplemente de objetos que se compran y utilizan: son sistemas que aprenden del comportamiento de sus usuarios y modifican lo que muestran para mantener su atención.

La diferencia es enorme.

Un juguete puede tener una falla de diseño.

Un algoritmo puede aprender de millones de personas y ajustar constantemente sus decisiones.

Por eso la regulación también intenta avanzar hacia la prevención. En Estados Unidos gana espacio una propuesta conocida como KOSA, destinada a reforzar las medidas de protección para menores y otorgar mayores herramientas a las familias. Entre sus objetivos aparece la obligación de que las empresas anticipen determinados daños previsibles y diseñen mecanismos para reducirlos.

Europa también viene experimentando con distintos modelos regulatorios.

Y en otros países empieza a crecer una idea que hasta hace poco parecía difícil de imaginar: establecer límites de edad más estrictos para acceder a determinadas redes sociales.

El problema es que ninguna solución resulta sencilla.

Prohibir puede ser difícil de aplicar.

Controlar la edad de los usuarios plantea problemas de privacidad.

Delegar todo en las familias puede ser injusto cuando los productos están diseñados por empresas con recursos tecnológicos muy superiores.

Y dejar la responsabilidad exclusivamente en manos de las compañías tampoco parece suficiente cuando sus ingresos dependen precisamente de mantener la atención de millones de personas.

La discusión, entonces, ya no consiste solamente en decidir si las redes sociales son buenas o malas.

Son demasiado importantes para una respuesta tan simple.

El desafío consiste en establecer reglas para que una herramienta que puede ser útil no tenga incentivos permanentes para explotar las vulnerabilidades de quienes la utilizan.

Hay además una dimensión generacional.

Los adultos actuales fueron incorporando las redes sociales progresivamente. Para muchos adolescentes, en cambio, forman parte del paisaje desde el comienzo de sus vidas. La frontera entre vida digital y vida cotidiana prácticamente desapareció.

Por eso las decisiones regulatorias que se tomen ahora tendrán consecuencias durante décadas.

También existe una alternativa que empieza a aparecer en algunas investigaciones: modelos diferentes de redes sociales, incluidos servicios con suscripciones que reduzcan la dependencia de la publicidad. Un estudio realizado en Alemania encontró disposición de una parte importante de adultos y adolescentes a pagar por una plataforma con estándares de seguridad más estrictos.

No está claro que ese modelo pueda desplazar a las grandes plataformas.

Pero plantea una pregunta interesante: ¿qué ocurriría si el negocio dejara de depender de conseguir la mayor cantidad posible de minutos de atención?

Quizás allí esté una parte de la respuesta.

Porque el problema no es que las personas utilicen redes sociales. Tampoco que la tecnología tenga capacidad para captar nuestra atención. El problema aparece cuando el diseño comercial convierte esa atención en el principal recurso que debe ser maximizado, incluso cuando hacerlo puede tener costos sociales.

La regulación llega tarde, pero todavía puede llegar.

El desafío será encontrar un equilibrio que proteja especialmente a los menores sin convertir internet en un territorio excesivamente controlado ni entregar a las empresas la posibilidad de decidir por sí mismas qué significa estar protegidos.

Las redes sociales ya forman parte de la vida cotidiana.

La discusión ahora es qué tipo de vida cotidiana queremos construir alrededor de ellas.

Durante demasiado tiempo, la pregunta fue cuánto podían hacer las plataformas. Ahora empieza otra: cuánto daño estamos dispuestos a aceptar antes de exigirles que cambien.