El desafío de moderar reclamos en medio de 1000 millones de publicaciones diarias en Twitter

El universo de Twitter, la red de comunicación predilecta por 250 millones de usuarios que generan unos 1000 millones de tuits por día, suele también ser el escenario de áridas disputas, discusiones y debates acalorados. También de situaciones de cyberbulling violencia, como ocurrió con la hija del fallecido actor Robin Williams, que tuvo que cerrar su perfil tras sufrir un acoso dentro de la plataforma.

Tampoco pudo estar al margen de estas amenazas el cofundador de Twitter, Jack Dorsey, en la mira de los integrantes de Estado Islámico, tras el cierre de diversas cuentas dentro de la red social.

"Nuestros términos de uso son muy claros al respecto, y procedemos a la eliminación de las cuentas que incitan al odio y a la violencia", dijo Patricia Cartes, responsable de Promoción de Seguridad Global de Twitter a nivel global, en una comunicación telefónica.

Situaciones como el acoso a Zelda Williams o la amenaza a Dorsey son una muestra del complejo y sensible abordaje de la seguridad de la actividad en una plataforma como Twitter. "El monitoreo no es una actividad se que limita al ámbito online, también estamos atentos a cualquier situación de la vida real que puede tener repercusiones dentro de la plataforma", agrega Cartes, que busca ampliar la experiencia que la especialista aplicó en la plataforma desde Europa en el resto de las regiones.

"El objetivo apunta a crear un canal directo de comunicación con los usuarios para que puedan compartir sus inquietudes, reclamos y experiencias para activar los mecanismo de denuncia de ser necesario", dijo la especialista, que cuenta con el antecedente de haber trabajado en el área de prevención de spam, seguridad en sitios y políticas de prevención del suicidio en compañías como Google y Facebook.

Las denuncias no sólo tienen por objetivo penalizar a un usuario y su respectiva cuenta, sino que dan una base necesaria para activar campañas de difusión de forma conjunta con las asociaciones, ONG y organismos locales.

Uno de esas iniciativas se llevó a cabo en Reino Unido con la organización Kick It Out, la Liga Inglesa de fútbol y las autoridades policiales para detectar casos de acoso y violencia en Twitter de forma efectiva. No siempre las sanciones terminan en el cierre de una cuenta, sino en aplicar un enfoque educativo de forma previa con el usuario involucrado en la denuncia.

"Existen varias etapas de moderación en donde se analiza la actividad del usuario. Algunos tienen un comportamiento normal de forma habitual, que no infringen las reglas de uso, pero en determinadas situaciones reaccionan de forma desmedida. Según el caso, se recomienda que pida una disculpa o elimine el tuit como instancia previa a una suspensión temporal o permanente de la cuenta denunciada", acota Cartes.

"No obstante, en casos de explotación a menores, Twitter tiene definida una política de tolerancia cero. La detección de este tipo de situaciones es posible gracias a una serie de herramientas proporcionadas por Microsoft, que nos permite tomar acciones inmediatas".

En una primera instancia, el proceso de reporte en Twitter está automatizado, con una serie de modificaciones que la compañía incorporó para definir mejor los requerimientos del usuario, sea un acoso on line, un mensaje de incitación al odio o una denuncia de abuso de menores.

Estos mecanismos han incorporado cambios en los informes, tanto en problemas de contenidos como en situaciones de suplantación de identidad, las autolesiones y la difusión de información privada y confidencial. También ha generado un incremento en la cantidad de reportes por cinco, una situación que demandó triplicar el equipo de soporte que lidera Cartes.

Con mil millones de tuits por día, ante determinados debates o temas, una forma silenciosa de acoso o agresión pueden ser las mismas herramientas que ofrece Twitter, como el reporte de abuso a un usuario en particular.

"No obstante, es importante destacar que el trabajo humano forma una parte fundamental de estas tareas. Es un equipo conformado por especialistas ubicados en Singapur, Berlín y San Francisco, que trabaja las 24 horas los siete días de la semana, con un mecanismo de rotación de 8 horas por sede", explica Cartes, y agrega que el uso indebido de las herramientas de reporte están contemplados dentro de los últimos mecanismos implementados por Twitter.

Ante estas situaciones de enfrentamientos entre tuiteros, Cartes señala que existen funciones al alcance del usuario para evitar el uso indebido de estas herramientas de reportes, orientadas para casos más específicos y puntuales de abuso. "Ante una diferencia de opinión o punto de vista, Twitter ofrece alternativas como silenciar la actividad de un usuario que sigues de forma temporal, efectuar un unfollow o bloquear una cuenta, en casos extremos", explica la especialista.

Asimismo, los roles de los equipos están definidos por las particularidades propias de cada mercado, de acuerdo al uso, las costumbres y el contexto social y político de cada región o país.

Lo mismo ocurren con las redes de bots, compuestas por cientos de perfiles apócrifos destinados a difundir una determinada acción publicitaria o acoso dentro de la comunidad de usuarios de Twitter, como ocurrió a nivel local con una serie de casos reportados por el especialista informático y desarrollador Fabio Baccaglioni.

"El 80 por ciento de los usuarios de Twitter acceden desde dispositivos móviles, lo que impide que se aplique una decisión drástica como un bloqueo por dirección IP. A su vez, este tipo de abusos persistentes evoluciona de forma constante, y requiere de enfoques creativos para detectar los patrones de uso", dijo Cartes.

Al margen de las particularidades de las denuncias y reportes, Cartes destaca que, de forma paulatina, los usuarios comprenden que Twitter es un espacio en donde también hay reglas y condiciones de uso, y que la compañía está presente para evitar de acoso, abuso o incitación al odio.

"En casos públicos como el secuestro en el café de Sidney los usuarios repudiaron los mensajes de odio y violencia. Hemos podido comprobar que los usuarios reaccionan de forma positiva ante determinadas situaciones con un uso responsable de Twitter", señaló la especialista.

El futuro de las búsquedas. Cómo cambiará Google con la IA, según los SEOs que trabajan para mejorar los resultados

No te duermas. Google te puede borrar la cuenta si no cumple con un requisito básico

Con Gemini. Google ya permite resumir y generar contenido en Gmail, Drive, Documentos y Hojas de cálculo usando inteligencia artificial