En el actual panorama digital, la identificación de actores dañinos como trolls y propagadores de desinformación se ha vuelto cada vez más compleja. A menudo, los esfuerzos para detectar cuentas maliciosas se centran en analizar lo que dicen. Sin embargo, una reciente investigación sugiere que se debería prestar más atención a lo que hacen y cómo lo hacen.
Un equipo de investigadores ha desarrollado un método para identificar actores potencialmente perjudiciales en línea basándose únicamente en sus patrones de comportamiento, es decir, en la forma en que interactúan con los demás, en lugar de en el contenido que comparten. Presentaron sus hallazgos en la reciente Conferencia Web de la ACM y fueron galardonados con el premio al mejor artículo.
Más allá del análisis del contenido
Los enfoques tradicionales para detectar comportamientos problemáticos en línea suelen basarse en dos métodos: el análisis de contenido (lo que dicen las personas) y el análisis de redes (quién sigue a quién). Sin embargo, estos métodos presentan limitaciones significativas.
Los usuarios pueden sortear el análisis de contenido utilizando un lenguaje codificado o compartiendo información engañosa sin emplear palabras clave obvias. Por otro lado, el análisis de redes es menos efectivo en plataformas como Reddit, donde las conexiones entre usuarios no son explícitas y las comunidades están organizadas en torno a temas en lugar de relaciones sociales.
Con el objetivo de identificar actores dañinos de una forma que no pudiera ser fácilmente manipulada, los investigadores se enfocaron en el comportamiento, en cómo las personas interactúan, en vez de en lo que dicen.
Utilizando una técnica conocida como aprendizaje por refuerzo inverso, adaptaron esta metodología para analizar cómo se comportan los usuarios en las plataformas de redes sociales. El sistema observa las acciones de un usuario, como crear nuevos hilos, publicar comentarios y responder a otros. A partir de esas acciones, infiere la estrategia subyacente que guía su comportamiento.
En un estudio de caso sobre Reddit, analizaron 5,9 millones de interacciones a lo largo de seis años y identificaron cinco perfiles de comportamiento distintos, siendo uno de ellos especialmente notable: el grupo de los «discrepantes».
Los ‘discrepantes’
Uno de los hallazgos más sorprendentes fue la identificación de una clase de usuarios de Reddit cuyo propósito principal parece ser el de disentir con los demás. Estos usuarios buscan activamente oportunidades para publicar comentarios contradictorios, especialmente en respuesta a desacuerdos, y luego se retiran sin esperar respuestas.
Los «discrepantes» eran más comunes en subreddits centrados en temas políticos, como r/news, r/worldnews y r/politics. Curiosamente, su presencia era mucho menor en el ahora prohibido foro pro-Trump r/The_Donald, a pesar de su enfoque político. Este patrón revela cómo el análisis del comportamiento puede descubrir dinámicas que el análisis de contenido podría pasar por alto.
En r/The_Donald, los usuarios tendían a coincidir entre sí mientras dirigían hostilidad hacia los objetivos externos. Esta dinámica puede explicar por qué la moderación de contenido tradicional ha luchado para abordar los problemas en comunidades de este tipo.
La investigación también reveló conexiones inesperadas. Usuarios que debatían sobre temas completamente diferentes a menudo mostraban patrones de comportamiento notablemente similares. Se encontraron similitudes sorprendentes entre los usuarios que hablaban de fútbol (en r/soccer) y e-sports (en r/leagueoflegends). Esta similitud surge de la naturaleza fundamental de ambas comunidades, donde los aficionados se involucran de maneras paralelas: apoyan apasionadamente a equipos específicos, siguen los partidos con intenso interés, participan en discusiones acaloradas sobre estrategias y actuaciones de jugadores, celebran victorias y analizan derrotas.
Ambas comunidades fomentan identidades tribales fuertes. Los usuarios defienden a sus equipos favoritos mientras critican a los rivales. Este hecho desafía la sabiduría convencional sobre la polarización en línea, ya que, aunque se culpa a las cámaras de eco por aumentar la división, esta investigación sugiere que los patrones de comportamiento pueden trascender los límites temáticos. Los usuarios pueden estar más divididos por cómo interactúan que por lo que discuten.
Las implicaciones de esta investigación van más allá de un interés académico. Los moderadores de las plataformas podrían utilizar patrones de comportamiento para identificar a usuarios potencialmente problemáticos antes de que hayan publicado grandes volúmenes de contenido perjudicial. A diferencia de la moderación de contenido, el análisis del comportamiento no depende de entender el lenguaje, lo que lo hace más difícil de eludir, dado que cambiar los patrones de comportamiento requiere más esfuerzo que ajustar el lenguaje.
Este enfoque también podría ayudar a diseñar estrategias más efectivas para contrarrestar la desinformación. En lugar de centrarnos exclusivamente en el contenido, podemos diseñar sistemas que fomenten patrones de compromiso más constructivos. Para los usuarios de redes sociales, esta investigación recuerda que la forma en que nos involucramos en línea, no solo lo que decimos, moldea nuestra identidad digital e influye en los demás. A medida que los espacios en línea continúan luchando contra la manipulación, el acoso y la polarización, enfoques que consideren los patrones de comportamiento junto con el análisis de contenido pueden ofrecer soluciones más efectivas para fomentar comunidades en línea más saludables.
