Un termómetro para la violencia digital

13 - Abril - 18

Con el apoyo de la empresa Quantil, el MinTIC presentó la primera herramienta para medir las agresiones en línea de forma matemática. En esto consiste este proyecto.

Ciberacoso
Las redes sociales se han convertido en los medios de comunicación e información más consultados en internet. Cada día, millones de personas consultan Facebook, Twitter o LinkedIn –entre otros sitios web– para formarse una opinión propia, basada en los comentarios que comparten los miembros de su comunidad digital. 
 
El problema surge ante la facilidad de crear usuarios falsos, tergiversar comentarios o atacar a otros usuarios, entre otros comportamientos negativos que elevan el nivel de agresión, el tono de los mensajes y la violencia en línea. Un inconveniente evidente en temas que enfrentan dos o más posiciones.  
 
Justamente, ante este panorama, el Ministerio de Tecnología de la Información –MinTIC– presentó uno de los primeros esfuerzos en el país por cuantificar y adelantar un análisis matemático de la dinámica de estas interacciones. Así, lanzó un termómetro digital para identificar actitudes provocadoras (típicas de
trolls) y para clasificar a los usuarios según su anonimidad, visibilidad, y factibilidad
de ser un ‘bot’ (una presencia en redes que envía mensajes automatizados). 
 
Entonces, definió dos temas que han generado polémica, para analizar el tono del lenguaje usado por participantes en redes sociales. El termómetro midió las interacciones que generaron las discusiones en línea del proceso de paz con las Farc y los comentarios sobre violencia de género. 
 
Tras recolectar más de 80.000 mensajes, el grupo desarrolló un esquema de aprendizaje supervisado (con marcaciones humanas realizadas a 4.000 mensajes) para clasificar todos los mensajes y usuarios según su toxicidad y su nivel de provocación. Por otro, utilizó técnicas de segmentación para identificar los usuarios anónimos, los usuarios con alta visibilidad, y los “bots”. Finalmente, buscó formas de reflejar el género de cada usuario a partir de los nombres reportados en las redes.
 
El estudio encontró que los dos casos estudiados presentaban dinámicas muy diferentes: uno estuvo más centralizado en un usuario, casi revelando un patrón de acoso, y el otro parecía más un debate público, sin un nodo central. 
 
Esta herramienta ayudó a corroborar la premisa de que el análisis matemático puede utilizarse en el análisis de interacciones entre usuarios de redes sociales. Aunque el alcance del estudio no permitió sacar conclusiones generales, en el ámbito de los casos estudiados se observa: 
 
1. Entre más diversa la discusión, menos tóxica la interacción
2. Los comentarios a noticias son más tóxicos que los tuits 
3. Hay más usuarios no tóxicos que tóxicos, pero la toxicidad no se concentra en pocos usuarios
4. El uso de hashtags, ser un usuario visible y tener foto de perfil se asocia con mensajes menos tóxicos
5. Se presentan más mensajes tóxicos de hombres a mujeres que al revés
6. La audiencia es pasiva a la hora de tratar de calmar discusiones agresivas.
 
Como conclusión general, demostró la posibilidad de combinar la ciencia de datos y teoría de redes con información no estructurada –mensajes y comentarios– para identificar en tiempo real aspectos estructurales de la agresión digital en las redes.
 
Para ver el Termómetro de violencia digital, dé clic aquí. Los datos pueden tomar entre 20 y 40 segundos en cargar. 
 
Información relacionada