El presidente del Gobierno, Pedro Sánchez, presentó recientemente una nueva herramienta llamada HODIO, que se propone medir y analizar la difusión de discursos de odio en las principales plataformas de redes sociales en España. Esta iniciativa se enmarca dentro del primer Foro contra el Odio y ha suscitado diversas reacciones en la opinión pública y en el ámbito político. HODIO, que significa Huella del Odio y la Polarización, será gestionada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español del Racismo y la Xenofobia (Oberaxe). Su objetivo es elaborar un ranking público y transparente que permita comparar el nivel de exposición al odio en redes como Instagram, TikTok, X, YouTube y Facebook.
La herramienta combina análisis automático y revisión manual para detectar contenido que pueda incitar al odio. Utiliza inteligencia artificial para procesar grandes volúmenes de datos y busca palabras clave relacionadas con discursos de odio. Sin embargo, hasta el momento, HODIO se encuentra en fase de revisión técnica y no está plenamente operativa. Esta no es la primera iniciativa del Gobierno en este ámbito; el Oberaxe ya había comenzado a monitorear el discurso de odio desde 2020 y ha lanzado otras herramientas como la aplicación Alertodio y el sistema FARO, que también emplean inteligencia artificial para identificar este tipo de contenidos.
Un aspecto crucial que todavía no ha sido clarificado por el ministerio son los criterios específicos que se seguirán para determinar qué constituye un discurso de odio. Aunque se menciona que estos criterios se basarán en estándares académicos y normativas internacionales, diversas organizaciones, como las Feministas de la Alianza contra el Borrado de las Mujeres, han solicitado más información al respecto. La definición precisa de lo que se considera discurso de odio y los métodos de clasificación utilizados serán determinantes para evaluar la efectividad y la imparcialidad de HODIO. Sin una claridad en estos criterios, persisten las dudas sobre si esta herramienta podría, en algunos casos, ser percibida como un sistema de censura.
