Cómo el emoji de la zanahoria se convirtió en un código secreto en Internet para camuflar contenido antivacunas

Grupos de Facebook usan el emoji de la zanahoria para evadir la moderación automática de contenidos antivacunas. BBC ha observado varios grupos, entre ellos uno con cientos de miles de miembros, en los que aparece este emoji naranja en lugar de la palabra “vacuna”.

Los algoritmos de Facebook tienden a enfocarse en palabras en lugar de imágenes. En este tipo de grupos se comparten informaciones no verificadas de personas que supuestamente han sufrido daños o han muerto por las vacunas.

Resurgimiento del discurso antivacunas

Una vez que BBC alertó a Meta, la empresa matriz de Facebook, esos grupos fueron eliminados. “Hemos eliminado este grupo por violar nuestras políticas de desinformación dañina y revisaremos cualquier otro contenido similar de acuerdo con esta política. Seguimos trabajando en estrecha colaboración con expertos en salud pública y el gobierno del Reino Unido para abordar aún más la desinformación de la vacuna contra la covid”, indicó la empresa en un comunicado.

Los grupos, sin embargo, han reaparecido en nuestras búsquedas desde entonces. Uno de ellos existía desde hace tres años, pero se renombró para enfocarse en historias de vacunas en agosto de 2022, antes se dedicaba a compartir “bromas, apuestas y videos divertidos”.

Las reglas del grupo más grande de todos indican: “use palabras clave para todo”. Y agregan: “No use nunca las palabras que comienzan por c, v o r”: Covid, vacuna o refuerzo. Se creó hace más de un año y cuenta con más de 250.000 miembros.

Marc Owen-Jones, investigador especialista en desinformación y profesor asociado de la Universidad Hamad Bin Khalifa en Qatar, fue invitado a unirse. “Eran personas que contaban historias de familiares que habían muerto al poco tiempo de haber recibido la vacuna de la covid-19″, afirmó. “Pero en lugar de las palabras ‘covid-19′ o ‘vacuna’ utilizaban emojis de zanahorias. Al principio estaba un poco confundido. Y luego entendí que se usaban como una forma de evadir, o intentarlo al menos, los algoritmos de detección de noticias falsas de Facebook”, agregó.

La estrategia del emoji como modo de evasión

En 2021, los datos de la Oficina de Estadística de Reino Unido evaluaron un riesgo de uno entre cinco millones de morir por la vacuna contra el covid, en comparación con los 35.000 fallecimientos por la enfermedad de cada cinco millones de infectados sin vacunar.

Los gigantes tecnológicos usan algoritmos para rastrear sus plataformas en busca de contenido dañino. Pero estos están preparados sobre todo para detectar palabras y textos, indicó Hannah Rose Kirk en un blog del Instituto de Internet de Oxford.

Rose Kirk formó parte de un equipo de investigación que creó una herramienta llamada HatemojiCheck: una lista de verificación para identificar áreas en las que los sistemas de inteligencia artificial (IA) no controlan bien los abusos en el uso de emojis. “Pese a tener una comprensión impresionante de cómo funciona el lenguaje, los modelos de lenguaje de IA han visto muy pocos emojis”, afirmó.

“Están entrenados con innumerables libros, artículos, sitios web e incluso la totalidad de Wikipedia en inglés, pero estos textos rara vez incluyen emojis”, detalló sobre esta modalidad.

Ocultos a plena vista

Los emojis pueden tener múltiples significados además de los declarados oficialmente por Unicode, el consorcio que los gestiona. La Agencia de Control de Drogas de EE.UU. emitió una advertencia sobre cómo se pueden usar emojis para hablar sobre drogas ilegales.

Y las plataformas de redes sociales ya han recibido críticas por no bloquear o eliminar emojis de monos y plátanos cuando se publican como expresiones racistas en las cuentas de futbolistas negros. “Es una forma moderna de esteganografía: escribir y ocultar un mensaje a simple vista pero de tal manera que, a menos que se sepa dónde mirar, no se ve”, afirmó el profesor Alan Woodward, experto en seguridad cibernética de la Universidad de Surrey.

“Lo que todo esto demuestra es la futilidad de intentar automatizar la moderación del contenido para evitar que se comparta material ‘dañino’”, explicó, ya que las personas “desarrollan nuevos recursos con los que comunicarse”. Facebook anunció el año pasado que había eliminado más de 20 millones de contenidos con información errónea sobre el covid-19 o la vacuna desde el comienzo de la pandemia. También, aseguró haber borrado el contenido que afirma que las vacunas en general son más peligrosas que la enfermedad contra la que protegen, o que son tóxicas.

El presidente de los Estados Unidos, Joe Biden, criticó a los gigantes tecnológicos por no hacer lo suficiente para abordar la difusión de información falsa en la red sobre las vacunas. Afirmó que esperaba que Facebook hiciera más para combatir “la escandalosa información falsa” sobre las vacunas contra el coronavirus que se difunde en su plataforma.

Frente al riesgo de las redes. Los diez “salvavidas” para los “huérfanos” digitales

Qué dicen los expertos. ¿Está mal tratar a los perros como un hijo?

"Muchos no salen vivos". Las ciudades subterráneas en las que transcurre el despiadado negocio de la minería ilegal en Sudáfrica

Universo. El día hace 100 años en que la ciencia descubrió que la Vía Láctea no es la única galaxia

1000 días de conflicto. Las cuatro claves que explican la escalada de la guerra en Ucrania y el papel que juega el retorno de Trump a la presidencia