Ahora los algoritmos también te censuran

Esta semana Twitter produjo una noticia que, tal vez porque de momento solo afecta a los hablantes de inglés, pasó un poco inadvertida aquí. La cosa es así: desde el año pasado la red social de los trinos (ninguna imagen más apartada de la realidad, pero bueno) está intentando morigerar los niveles de agresión (sigo con los eufemismos) que padece su ecosistema y que, a juicio de algunos analistas, explica el grave estancamiento de la plataforma.

Imposible de moderar por medios humanos, recurrieron a la inteligencia artificial (IA) para analizar si esa respuesta que estábamos a punto de tuitear (sí, leyeron bien, algo que todavía no tuiteamos) acaso no era poco feliz, por esas cosas del heat of the moment. Al parecer, a la IA no le fue demasiado bien con el lenguaje humano (lógico) y encontró bastante difícil separar la descalificación del sarcasmo y la broma entre amigos del insulto brutal (lógico también). Pero ahora Twitter asegura que han refinado estos detalles y vuelven a la carga con una idea que por ahora se probará solamente en Android y iOS, y nada más que en inglés. No tiene un nombre específico, pero en buen criollo se llama censura previa.

Esta clase de movidas de las compañías que administran servicios de redes sociales da tanto paño para cortar que uno no sabe por dónde empezar. Pero vamos por prioridades. En primer lugar, no hay nada bueno en esta idea. Solicitarle a alguien que no insulte a otro cuando su intención es insultarlo lo único que podría llegar a cambiar (Twitter tiene porcentajes al respecto) es que el insulto no salga posteado en esa plataforma. Pero el impulso y la composición de un tuit insultante estuvieron. Por si no queda claro, esto se llama barrer bajo la alfombra y no tiene nada de bueno nunca, en ninguna relación y bajo ninguna circunstancia, salvo alguna particularmente extrema y terminal.

Miedo a las palabras

Por otro lado, y por lo que han dado a conocer hasta ahora, Twitter pone el énfasis en (y cito) “palabras y expresiones potencialmente dañinas u ofensivas”. OK. Dos cosas, y las digo como lingüista. Primero, todo es potencial en el lenguaje; no existe nada absoluto. Segundo, esa potencialidad (que depende del contexto, la entonación, el lenguaje corporal, los gestos, la relación entre los hablantes y una docena de factores más) se llama lenguaje. Dicho más fácil: si una máquina va a estar revisando lo que estoy a punto de tuitear para sugerirme evitar ciertos usos “potencialmente ofensivos” del lenguaje, además de censura previa es un atentado contra el lenguaje.

Cosa que quizá no suene demasiado grave en otras latitudes, pero aquí, con una historia signada por la censura, no parece precisamente democrático. La democracia es básicamente libertad de expresión. Si tenemos una Constitución es porque disfrutamos de la libertad para acordarla. De otro modo, nos habrían impuesto las reglas de convivencia sin que tuviéramos ningún derecho al pataleo, altisonante o no. No hay 25 modelos de sociedad. Hay dos: en uno podés decir lo que se te de la gana; en el otro, no (y pueden meterte preso por decir algo que a las autoridades no les gusta).

Debido a que la democracia es libertad de expresión (o sea, todo lo demás depende de esa libertad), nuestros códigos tienen bien tipificados los delitos relacionados con las expresiones verbales. No son muchos y son todos bien claros. En ninguna parte se mencionan la cortesía o el lenguaje “potencialmente ofensivo”. La amenaza, en cambio, tiene su capítulo. Ahora, ¿sería capaz de entender la IA la diferencia entre una amenaza real y una broma de mal gusto? Ni siquiera los humanos fueron aptos para esto en su momento. Es decir, si por ley prohibiéramos las bromas de mal gusto, los funcionarios con vocación totalitaria se harían un festín.

Por añadidura, el problema no está en cómo decimos las cosas. Hay muchas personas interesadas en que creamos esto, y si me lo preguntan soy de la idea de que la cortesía es un valor. Pero no podemos escandalizarnos por el lenguaje potencialmente ofensivo mientras nos encontramos rodados de iniquidades innombrables. Como lo dijo muy bien el enorme Roberto Fontanarrosa en 2004, no hay palabras buenas o malas. Para Twitter parece que sí.

Intervención

No siempre es malo que la plataforma te avise de ciertos –digamos– deslices. Gmail, por ejemplo, tenía (o tiene; no pude encontrarla ahora, complicaron demasiado su plataforma, as usual) una función que, si la activabas, te obligaba a hacer un cálculo aritmético antes de mandar un mail ciertos días de la semana dentro de ciertos horarios. Típicamente, el sábado a la madrugada, cuando quizá ya habías incorporado a tu torrente sanguíneo una cantidad de alcohol etílico que nublaba tu mente, te desinhibía, y, en ese estado, tomabas decisiones que no te ayudaban para nada. Como mandarle ese mail lleno de trinitrotolueno a tu ex. Esa función experimental tenía sentido, era un opt-in y, en el fondo, te hacían un favor. Pero en el caso de Twitter la movida tiene por objeto depurar un poco ese ambiente tóxico en el que se ha convertido la línea de tiempo. Es decir, se propone censurar a los usuarios para resolver un problema de Twitter.

Cierto, el control de la ira es una destreza importante en la evolución emocional de las personas. Ahora bien, ni Twitter ha sido encumbrado como nuestro asesor conductual ni podemos ser tan ingenuos para creer que todo el vitriolo verbal que infecta la línea de tiempo es obra de la ira mal arreada. Es, hasta donde sabemos, una combinación de campañas orquestadas y personas con problemitas. Ni unos ni otros parecerían ser demasiado permeables a la censura previa. Más bien al revés. Los algoritmos básicamente estarían confirmándoles que ese tweet va a cumplir con el objetivo que les han encomendado.

Del otro lado, en cambio, hay un número de tuiteros de ley que resiste con el espíritu original de la plataforma (el de empoderar a los que no tienen otra forma de hacer oír su voz), aunque me imagino que cada vez con menos esperanza. Esos tuiteros de ley cada tanto se indignan, y se indignan con razón. En tales casos no es imposible que empleen un lenguaje (pongámoslo así) de adulto indignado. Y esa es toda la idea detrás de Twitter. Para todo lo demás está Facebook. ¿Sería mejor un mundo sin personas justamente indignadas que llegado el caso, junto con su medulosa argumentación, sueltan una retahíla de (y cito) “expresiones potencialmente ofensivas”? No, no me parece. No soy amigo de maldecir en público, tal vez por pudor, pero no es sano amputarle al lenguaje lo que nos parece inadecuado; porque al final no queda nada, queda solo silencio. Además, el tuitero indignado que argumenta (y además maldice) está en las antípodas del troll. Una cosa es maldecir y otra muy diferente insultar.

Sobre estos grandes grupos flota el halo de supuesta influencia política que Twitter se ha ganado en un proceso que es demasiado complejo para analizarlo aquí, pero que, a mi juicio, es mayormente ilusorio. WhatsApp, que hace mucho que dejó de ser solo un mensajero, tiene más influencia real que Twitter.

Al margen los que necesitan urgente ver a un profesional y trabajar sus frustraciones, sus miedos y su narcisismo son una minoría y existen desde mucho antes de que los políticos aprendieran a deletrear la palabra algoritmo. Estaban en Usenet, en el IRC, en los foros, en los comentarios de los diarios y en los blogs, que fueron precursores de la movida social de Internet. Los metabolizamos siempre con bastante eficiencia.

¿Qué nos pasó?

Ahora bien, dejando de lado todo lo dicho hasta aquí, que no es poco, la pregunta que sigue es: ¿realmente el problema de Twitter es que se llenó de gente tóxica, rentada o no? ¿O Twitter creó deliberadamente las condiciones para que la línea de tiempo se volviera tóxica? Son dos cosas muy diferentes.

Tal como los tuiteros de la primera hora quisimos verlo, el servicio permitía democratizar la libertad de expresión; como los blogs, en su momento. Más aún, Twitter no nació como una red social, sino como una plataforma de microblogging. Es decir, no había lugar para que un figurón abriera hilo y acaparara la línea de tiempo. Bueno, eso se fue terminando. Twitter no era originalmente un ambiente tóxico; se volvió tóxico porque intentó parecerse a algo que no era. Debió quedarse en 140 caracteres. Título y bajada. Nada de discursos interminables de protocaudillo digital. Eso era lo genial de Twitter al principio. Nadie corría con ventaja, más allá de su mérito personal. Así que, pregunto: ¿no sería mejor que Twitter usara la inteligencia artificial para detectar cuando una enorme cantidad de trolls sin seguidores publican algo idéntico a la misma hora? Estoy convencido de que la IA es mucho más adecuada para detectar esas operaciones que requieren un aparato partidario que para advertir el humor negro. O de cualquier otro color.

Ocurrió lo contrario. Durante el último lustro o algo así, una serie de eventos desafortunados replicaron en la línea de tiempo las desigualdades discursivas de la sociedad. Algo que, visto en perspectiva, era prácticamente imposible de evitar, aunque bien podría haberse convertido en el lema de Twitter. Aunque sea en lema.

Más de una década después de sus años de gloria (por ejemplo, cuando ayudamos colectivamente a construir la lista de personas buscadas después del catastrófico terremoto de Chile, en febrero de 2010), para enderezar algo que la compañía rompió voluntariamente, recurre a la inteligencia artificial para sugerirnos un don de gentes que supimos tener, pero que se perdió en el griterío de los que solo quieren tener razón, no dialogar.

Conforme a los criterios de

Tipo de trabajo:

análisis

Conocé más

“Vamo y vamo”

Verdades y mentiras de los jueces

Récord de heridos por accidentes