La batalla contra el discurso de odio en línea: un enfoque global desde España
La lucha contra el discurso de odio en las redes sociales presenta diversas complejidades. Definir el odio, recopilar mensajes y lidiar con la ironía o el doble sentido añade dificultad al proceso. Aunque varios proyectos han intentado entender el odio en línea en diferentes países, muchos de ellos no han perdurado. Sin embargo, España ha emergido recientemente como un líder temporal en la investigación sobre este fenómeno, impulsada por iniciativas gubernamentales.
Xenometer: un proyecto pionero
Un ejemplo notable es el proyecto Xenometer, llevado a cabo por Beth Lyon, profesora de la Universidad de Cornell. “Inicié el proyecto sobre xenofobia justo después de la primera elección de Trump”, explica Lyon. Después de un largo proceso de búsqueda de financiamiento y colaboración con lingüistas y programadores, logró publicar resultados que miden el nivel de xenofobia en 7.000 tuits de 11 cuentas influyentes en EE.UU. Ahora, el objetivo del proyecto es más ambicioso: “Queremos crear un mapa mundial del odio digital”, afirma Sergio García-Magariño, coautor de Xenometer, en colaboración con investigadores de Colombia y El Salvador.
Los hallazgos del proyecto
Obtener un mapa completo del odio digital es complicado. “Analizar un momento específico de odio es diferente a captar su pulso a largo plazo”, precisa García-Magariño. Sin embargo, han descubierto patrones que indican que los grupos más afectados por el prejuicio en España son las personas de origen marroquí y la comunidad gitana. Además, el lenguaje utilizado en las redes para expresar prejuicios se está volviendo más sofisticado, probablemente porque los grupos xenófobos están recibiendo asesoría adecuada para evadir la detección.
Herramientas españolas en la lucha contra el odio
En este contexto, España se apoya en iniciativas como Faro y la próxima herramienta Hodio, desarrolladas por el Observatorio Español del Racismo y la Xenofobia (Oberaxe). Desde 2024, el sistema automatizado Faro monitorizará plataformas como Facebook, Instagram, TikTok, YouTube y X. Hodio, que se lanzará en breve, servirá para evaluar la cantidad de contenido de odio y su viralidad en estas plataformas. “Queremos saber qué hacen las plataformas para frenar o fomentar esta propagación”, señala Tomás Fernández, director del Oberaxe.
Hodio permitirá agregar una capa cuantitativa a los datos recogidos por Faro, lo que facilitará la implementación del sistema. Fernández confía en que el primer informe semestral de Hodio esté disponible para junio o julio de este año.
Proyectos financiados y la situación en Europa
Faro es el resultado de dos proyectos financiados por la Unión Europea: Alreco y Real Up. A pesar de ser pioneros en la investigación del odio online, Fernández señala que no hay herramientas similares desarrolladas por la Unión. “Están trabajando en un pequeño observatorio, pero no tiene el mismo alcance ambicioso que Faro”, afirma. Este impulso gubernamental ha paralelo al trabajo de investigadores en universidades como la UNIR, que han desarrollado Hatemedia.
Motivos del auge de la investigación en España
Existen varios factores que explican el creciente interés en el odio en línea en España, además del soporte gubernamental:
1. Obtención de financiación
A diferencia de EE.UU., donde el discurso de odio no es penalizado, la investigación en este ámbito ha sido limitada. “La primera enmienda de la Constitución americana protege mucho el discurso, lo que dificulta su análisis”, explica Lyon. Esta falta de interés también se traduce en menos fondos disponibles para investigar el tema.
2. Desafíos técnicos en la definición del odio
Definir el odio es extremadamente complicado. Aunque la inteligencia artificial puede facilitar esta labor, sigue habiendo problemas nacionales. Por ejemplo, la misma palabra puede tener connotaciones diferentes dependiendo del contexto cultural. Esto hace que unificar criterios científicos sea un reto considerable.
3. Colaboración limitada de las plataformas
El análisis del odio en línea a menudo se centra en mensajes de texto. Sin embargo, plataformas como YouTube, Facebook e Instagram priorizan el contenido visual, lo que complica la recolección de datos escritos. “Las redes sociales no tienen interés en que se divulgue cuántos mensajes de odio albergan”, subraya García-Magariño. Por ello, es esencial una regulación internacional para abordar esta cuestión.
