Algoritmos y misoginia: así acceden los adolescentes latinoamericanos – EL PAÍS

Informe sobre la Amplificación de Contenido Misógino en Plataformas Digitales y su Impacto en los Objetivos de Desarrollo Sostenible

Introducción al Problema

Investigaciones recientes en diversas regiones, incluyendo Brasil y el Reino Unido, han revelado un patrón alarmante: los algoritmos de las plataformas de redes sociales están amplificando sistemáticamente contenido misógino y violento, dirigiéndolo a audiencias jóvenes. Este fenómeno no solo representa un riesgo para la seguridad y el bienestar de los adolescentes, sino que también constituye una barrera significativa para el avance de los Objetivos de Desarrollo Sostenible (ODS), en particular aquellos relacionados con la igualdad de género, la paz y la salud.

Vulneración del ODS 5: Igualdad de Género a través de la Radicalización Algorítmica

La propagación de discursos de odio contra las mujeres en el entorno digital socava directamente los principios del ODS 5: Igualdad de Género. Los algoritmos, al promover contenido que normaliza la violencia y los estereotipos de género, contribuyen a perpetuar la discriminación y la violencia contra mujeres y niñas.

Hallazgos Clave de Investigaciones

• Estudio en Brasil: Un monitoreo realizado por Núcleo y la Revista AzMina, utilizando perfiles ficticios de adolescentes en TikTok, demostró cómo las cuentas eran expuestas progresivamente a contenido de extrema derecha, desinformación y discursos que refuerzan estereotipos de género dañinos. Los videos promovían ideas como la sumisión femenina y denigraban a las mujeres con una vida sexual activa.
• Estudio en Reino Unido: Investigadores del University College London y la Universidad de Kent concluyeron que los algoritmos amplifican rápidamente contenido misógino extremo, trasladando estas ideologías “de las pantallas de los adolescentes a los patios escolares”. El monitoreo Safer Scrolling evidenció un aumento de cuatro veces en el contenido misógino mostrado en solo cinco días.

La “Manósfera” y su Impacto

Estos espacios digitales, conocidos como la “manósfera”, reúnen a jóvenes que, a menudo desde la soledad o la vulnerabilidad, son atrapados por discursos sensacionalistas. Grupos como los ‘incels’ (célibes involuntarios) son un ejemplo extremo, donde la frustración se canaliza en culpar y atacar a las mujeres, normalizando una visión del mundo que es diametralmente opuesta a las metas del ODS 5.

Amenazas a los ODS 3, 4 y 16: Impacto en la Salud, Educación y Paz

La exposición a este tipo de contenido tiene consecuencias tangibles que afectan múltiples dimensiones del desarrollo sostenible, desde la salud mental individual hasta la estabilidad social.

Impacto en la Salud y el Bienestar (ODS 3)

La investigación Safer Scrolling señala que los adolescentes con problemas de salud mental, acoso escolar o ansiedades son particularmente vulnerables a la radicalización. La exposición constante a contenido tóxico agrava estas condiciones, contraviniendo el ODS 3: Salud y Bienestar, que busca promover la salud mental.

Erosión de la Educación de Calidad (ODS 4)

El fenómeno presenta un doble desafío para el ODS 4: Educación de Calidad:

1. Distracción y Desempeño: La encuesta TIC Kids Online Brasil 2024 reportó que el 22% de los jóvenes de 11 a 17 años pasan menos tiempo con la familia o en tareas escolares debido al uso excesivo de internet.
2. Desinformación y Contenidos Nocivos: Los jóvenes consumen discursos seudocientíficos y mensajes discriminatorios que contradicen una educación basada en los derechos humanos y la igualdad de género, un pilar del ODS 4.7.

Riesgos para la Paz y la Justicia (ODS 16)

La normalización de la violencia en línea se traduce en violencia en el mundo real, como lo demuestra el caso de un ataque en una escuela en México por parte de un miembro de un foro incel. Este escalamiento amenaza directamente el ODS 16: Paz, Justicia e Instituciones Sólidas, cuyo objetivo es reducir todas las formas de violencia y proteger a los niños del abuso y la explotación (Meta 16.2).

Responsabilidad Corporativa y Marcos Regulatorios

La escala del problema, con millones de usuarios adolescentes en plataformas como TikTok, exige una mayor responsabilidad por parte de las empresas tecnológicas y una acción regulatoria más firme por parte de las instituciones, en línea con el fortalecimiento institucional que promueve el ODS 16.

Respuesta de las Plataformas

TikTok ha informado sobre sus esfuerzos de moderación, que combinan tecnología y un equipo de 40,000 revisores humanos. La compañía afirma haber eliminado millones de videos y cuentas infractoras. Sin embargo, las investigaciones demuestran que las fallas persisten y que la simple recomendación de contenido dañino ya viola las directrices de protección a menores.

Acciones Regulatorias

• En Brasil, la Autoridad Nacional de Protección de Datos (ANPD) inició un proceso administrativo contra TikTok por exponer a menores a contenidos inapropiados, una medida que refleja el rol de las instituciones en la protección de los derechos de los ciudadanos.
• Organizaciones como Safernet Brasil destacan que TikTok se encuentra entre los dominios más denunciados por violencia o discriminación contra mujeres, lo que subraya la urgencia de una supervisión más estricta.

Conclusión

La amplificación algorítmica de contenido misógino y violento representa una grave amenaza para el desarrollo integral de los adolescentes y un obstáculo formidable para la consecución de la Agenda 2030. Abordar este desafío requiere un enfoque coordinado que involucre una mayor responsabilidad corporativa, una regulación efectiva y la promoción de la alfabetización digital y nuevos acuerdos sexoafectivos, como los propuestos por la Fundación Karisma. Es imperativo alinear el diseño y la gobernanza de las tecnologías digitales con los principios fundamentales de los Objetivos de Desarrollo Sostenible para garantizar un futuro más justo, pacífico e igualitario.

1. ¿Qué Objetivos de Desarrollo Sostenible (ODS) se abordan o están conectados con los temas destacados en el artículo?

• ODS 5: Igualdad de Género

  El artículo se centra fundamentalmente en la propagación de contenido misógino y machista a través de algoritmos de redes sociales como TikTok. Aborda directamente la discriminación y la violencia contra las mujeres, mostrando cómo las narrativas en línea que refuerzan estereotipos de género negativos (“mujeres de alto valor”, “ser sumisas”) se traducen en violencia en el mundo real, como el caso del triple femicidio en Buenos Aires y el ataque de un miembro de la comunidad ‘incel’ en México. Esto se alinea con el objetivo de lograr la igualdad de género y empoderar a todas las mujeres y niñas.

• ODS 16: Paz, Justicia e Instituciones Sólidas

  Este objetivo es relevante porque el artículo explora cómo el discurso de odio y la desinformación en línea conducen a la violencia física. Se mencionan explícitamente actos violentos como apuñalamientos y femicidios, que son una amenaza directa para la paz y la seguridad. Además, se discute la responsabilidad de las plataformas (instituciones privadas) en la moderación de contenido y la protección de los usuarios, especialmente los menores, lo que se relaciona con la promoción de sociedades justas e inclusivas y la necesidad de instituciones responsables.

• ODS 3: Salud y Bienestar

  El artículo conecta la exposición a contenido tóxico con la salud mental de los adolescentes. La investigación del Reino Unido citada señala que “los chicos que sufren de mala salud mental, acoso escolar o ansiedades sobre su futuro están en un riesgo mayor” de ser radicalizados por estos contenidos. La normalización de la violencia y la insensibilización frente a ella también tienen un impacto negativo en el bienestar psicológico de los jóvenes, lo que vincula el tema con la promoción de la salud mental.

• ODS 4: Educación de Calidad

  El artículo subraya una brecha educativa que es llenada por “gurús de masculinidad” y discursos de odio en línea. El docente Rubén Garrido menciona que “la masculinidad actual está muy huérfana de referentes”, lo que indica una necesidad de educación en temas de igualdad de género, relaciones saludables y pensamiento crítico. Iniciativas como el “Sexting School” de la Fundación Karisma se presentan como una respuesta educativa para promover el uso informado de tecnologías y reflexionar sobre la sexualidad, alineándose con la meta de una educación que promueva una cultura de paz y no violencia.

2. ¿Qué metas específicas de los ODS se pueden identificar en función del contenido del artículo?

• Meta 5.2: Eliminar todas las formas de violencia contra todas las mujeres y las niñas en las esferas pública y privada.

  El artículo ilustra cómo el contenido misógino en línea (“manósfera”) incita y normaliza la violencia contra las mujeres. Los ejemplos del ataque por parte de un ‘incel’ en México y el triple femicidio en Buenos Aires, donde las víctimas fueron desvalorizadas por ser mujeres, son manifestaciones directas de la violencia que esta meta busca erradicar.

• Meta 5.B: Mejorar el uso de la tecnología de la información y las comunicaciones para promover el empoderamiento de las mujeres.

  El artículo presenta el reverso de esta meta, mostrando cómo la tecnología, específicamente los algoritmos de TikTok, se utiliza para difundir discursos que socavan la igualdad de género y exponen a los jóvenes a la misoginia. La discusión sobre la responsabilidad de las plataformas y la necesidad de un entorno en línea seguro resalta la importancia de orientar la tecnología hacia fines positivos, como el empoderamiento femenino, en lugar de la propagación del odio.

• Meta 16.1: Reducir considerablemente todas las formas de violencia y las tasas de mortalidad conexas en todo el mundo.

  La conexión directa que establece el artículo entre el consumo de contenido violento y misógino en línea y los actos de violencia física en el mundo real (apuñalamientos, femicidios) se relaciona directamente con esta meta de reducir la violencia y las muertes resultantes.

• Meta 16.2: Poner fin al maltrato, la explotación, la trata y todas las formas de violencia y tortura contra los niños.

  El enfoque principal del artículo está en los adolescentes (de 13 a 17 años), quienes son expuestos a contenido dañino que los radicaliza y los insensibiliza ante la violencia. El monitoreo realizado en Brasil con perfiles ficticios de 14 y 15 años demuestra la vulnerabilidad de los menores a ser conducidos por algoritmos hacia discursos de odio, lo cual es una forma de maltrato psicológico y exposición a la violencia.

• Meta 4.7: Asegurar que todos los alumnos adquieran los conocimientos teóricos y prácticos necesarios para promover… la igualdad de género, la promoción de una cultura de paz y no violencia…

  El artículo evidencia la falta de esta educación. Los jóvenes, en busca de referentes, encuentran “influencers que hablan de la testosterona” y discursos que miden el valor de las personas por parámetros misóginos. Esto subraya la necesidad crítica de implementar programas educativos que aborden la igualdad de género y la no violencia para contrarrestar la desinformación que consumen en línea.

3. ¿Hay algún indicador de los ODS mencionado o implícito en el artículo que pueda usarse para medir el progreso hacia los objetivos identificados?

• Indicador implícito relacionado con 5.2.1 y 16.1.1 (Violencia contra mujeres y homicidios)

  Aunque no se citan estadísticas de prevalencia, el artículo menciona eventos específicos como un “triple femicidio ocurrido en Buenos Aires” y el caso de un joven que “apuñaló a un estudiante de 16”. Estos incidentes son los puntos de datos cualitativos que, agregados, conforman indicadores como la “Proporción de mujeres… que han sufrido violencia” (5.2.1) y el “Número de víctimas de homicidios intencionales” (16.1.1). La existencia de estos casos indica una falta de progreso en estas áreas.

• Indicador implícito relacionado con 16.2.1 (Violencia contra los niños)

  El estudio “Niñas, niños y adolescentes conectados” en Argentina proporciona datos que pueden servir como indicadores de la exposición de los niños a daños psicológicos. Se menciona que el 55% de los adolescentes se vieron expuestos a “mensajes discriminatorios” y el 53% a “imágenes sangrientas o violentas”. Estas cifras miden directamente la exposición de los menores a contenido perjudicial, lo que se relaciona con la agresión psicológica que el indicador 16.2.1 busca medir.

• Indicador implícito relacionado con 5.B.1 (Uso de tecnología)

  El artículo proporciona datos cuantitativos sobre el uso de la tecnología que es el vehículo para el contenido dañino. Cifras como “entre la población de 9 a 17 años en Brasil, el 93% accede a internet y el 50% usa TikTok todos los días” miden la penetración de esta tecnología. Más directamente, el dato de Safernet Brasil que indica que TikTok “está entre los 10 dominios en línea más denunciados en el mundo por violencia o discriminación contra mujeres” funciona como un indicador directo y medible del uso nocivo de la tecnología en contra de la igualdad de género.

4. Tabla de ODS, metas e indicadores

Fuente: elpais.com