Coronavirus y reconocimiento facial: la ocasión perfecta

A pesar de las buenas noticias vinculadas con el desempeño de varias vacunas, la crisis de la COVID-19 está lejos de haber terminado y parece que nos acercamos al momento en donde deberemos enfrentar las consecuencias de un año que sacudió los cimientos de la sociedad. Los Estados, las organizaciones internacionales y los sectores público y privado se han transformado digitalmente con una velocidad inédita y, si bien es temprano para saber con certeza si estamos frente a modificaciones en las conductas que se consolidarán en hábitos, o si serán sólo comportamientos reactivos, ya se tomaron decisiones que impactarán en nuestras vidas, como el despliegue de tecnología de reconocimiento facial sin que medie el suficiente análisis y debate. La excepcionalidad de los tiempos que estamos viviendo no puede ser un cheque en blanco para acciones y decisiones que tienen el potencial de atentar contra los miembros de la sociedad.

Así, mientras en septiembre se anunció una alianza entre Trenes Argentinos y una compañía tecnológica china para implementar tecnología de reconocimiento facial en los molinetes, hace algunas semanas la legislatura porteña aprobó la reforma de la Ley 5688 del Sistema Integral de Seguridad Pública, que regula las políticas de seguridad incluyendo el sistema de cámaras de videovigilancia en el espacio público. En ambos casos, las decisiones se tomaron sin la debida consulta a especialistas y actores involucrados, apelando a la premura y excepcionalidad de los tiempos pandémicos.

En cuanto a la alianza entre Trenes Argentinos, el objetivo y una compañía tecnológica para implementar tecnología de reconocimiento facial, con el fin declarado de “combatir el coronavirus”, puede ser una señal de alerta frente a la adopción de medidas tomadas sin el consenso o la discusión necesaria, un error cuyas consecuencias quedaron al descubierto recientemente con el uso de cámaras en los subtes porteños.

Trenes, subtes y rostros

De acuerdo a lo informado por la agencia de noticias Xinhua, “la tecnología china de reconocimiento facial se ha convertido en un aliado en la batalla de Argentina contra la COVID-19, ayudando a promover el distanciamiento social y el uso de máscaras faciales, protegiendo a los pasajeros del transporte público”. El anuncio a la prensa detalla que el Ministerio de Transporte de Argentina, a través de la empresa estatal Trenes Argentinos Operaciones, autorizó la instalación de equipos que “permiten capturar el rostro de personas que hayan tenido lecturas de temperatura elevada, para poder realizar el seguimiento de esos casos”. Las cámaras están ubicadas en los molinetes de la línea Mitre y tienen el carácter de “prueba piloto”.

La medida parece seguir la misma estrategia que utilizó el año pasado el gobierno porteño, que implementó el “sistema de reconocimiento facial de prófugos”, montado sobre 300 cámaras de la vía pública con el objetivo de identificar personas “con orden de detención de la Justicia”. Lejos de la eficiencia prometida, pronto en las estaciones del subterráneo de Buenos Aires se demoraron o detuvieron personas que, o bien fueron mal identificadas por el sistema como otro individuo, o bien estaban en la base, pero habían sido mal incorporadas en ella. De acuerdo con un pedido de acceso a la información pública que realizó el sociólogo Andrés Pérez Esquivel en enero de este año, durante los primeros seis meses del sistema se pusieron a disposición de la Justicia 1660 personas y sólo 339 quedaron detenidas. Además, hubo al menos 145 falsos positivos.

A pesar de las quejas de numerosas organizaciones -que señalaron que la implementación de esta tecnología de reconocimiento facial en espacios públicos puede afectar derechos como el de la privacidad, la libertad de expresión e incluso el estado de inocencia y la garantía al debido proceso, el pasado 22 de octubre la Legislatura de la Ciudad de Buenos Aires reformó el Sistema Integral de Seguridad Pública, que incluye estos sistemas. En la reunión de la Comisión de Seguridad se hizo referencia a la implementación de tres sistemas: el de reconocimiento facial para la captura de prófugos, el de investigación forense y el predictivo. Este último promete detectar “conductas anómalas” para solicitar intervención policial antes de que se cometa un delito. Por estos días en Santa Fe está planteándose la implementación de un sistema semejante, que ha generado reclamos también parecidos de sectores de la sociedad y de la oposición.

Los mitos de la tecnología de reconocimiento facial

La tecnología de reconocimiento facial es una de muchas técnicas de identificación de personas basadas en datos biométricos. Sin embargo, a diferencia de lo que sucede con las huellas dactilares, nuestra voz o las imágenes del iris, se trata de un procedimiento que no requiere un consentimiento explícito. De hecho, hemos sido filmados infinidad de veces sin que nos hayamos dado cuenta en bancos, shoppings, centros de salud, aeropuertos y otros edificios públicos y privados, y hasta en la calle.

Aunque los detalles de su funcionamiento varían entre diferentes modelos y aplicaciones, el método detrás de la tecnología de reconocimiento facial consiste en desarrollar perfiles exclusivos de cada individuo utilizando datos cuantificables, como la distancia entre los ojos de una persona o la distancia desde la frente hasta la barbilla. Así se crea una fórmula matemática (una suerte de mapa o firma facial) que luego es contrastada con una base de datos de imágenes (generalmente, de bancos de información estatal, como las fotografías de nuestro documento, licencia de conducir o registros policiales y judiciales) para hallar coincidencias. Además, las imágenes que nos son tomadas por estos mecanismos engrosan aquellas bases de datos o generan nuevas. En gran medida, el sistema se alimenta a sí mismo.

En los últimos 20 años, esta tecnología se volvió una herramienta de política de seguridad muy difundida. Parte del éxito de su proliferación se debe a que se la presenta como altamente eficiente, libre de los prejuicios que muchas veces llevan a las fuerzas de seguridad a hostigar a una población determinada, y automatizada, lo que la convertiría -según sus propulsores- en valorativamente neutra. “No se trata de la tecnología sino de cómo se usa. Mientras que la tecnología de reconocimiento facial puede crear controversia, a lo largo de la historia toda tecnología disruptiva masiva ha causado shock, temor y debate”, asegura en su sitio la compañía mendocina Belatrix, que ofrece soluciones a empresas y gobiernos de todo el mundo. No todos estamos de acuerdo con eso.

La neutralidad valorativa de la tecnología parece una idea quimérica y peligrosa. El problema no es sólo que en el uso de la tecnología de reconocimiento facial puedan gravitar los prejuicios y sesgos de quienes la operan, sino que hay presencia de valores en el momento mismo de su diseño. Aceptar que sólo se trata de “cómo se usa” elude dar la discusión más profunda acerca de los valores no sólo técnicos, sino también éticos y políticos que hay en juego. El análisis de una tecnología aplicada se vacía de sentido si no se repara en su aplicación y en los valores que la permean desde su propia génesis.

Uno de los riesgos que involucra el conceder esa supuesta neutralidad es la cancelación del debate en torno a los fines que perseguimos como sociedad al adoptarla y, con ello, la dificultad de fortalecernos como una ciudadanía digital con sentido crítico. La pregonada confiabilidad en la tecnología parece una declamación desiderativa, que resulta imposible si no se hace más transparente y accesible la información acerca de cómo funciona la tecnología de reconocimiento facial, y, sobre todo, por qué y para qué debemos aceptarla. En ocasiones, además, buscar apoyo en las leyes resulta decepcionante, ya que, cuando existe, la legislación comparada y nacional al respecto es deficiente, poco clara y más un producto de la improvisación que de la reflexión compartida a través de la participación ciudadana y el aporte de expertos en áreas como la tecnología y las libertades individuales.

Es por eso que en un momento en el que muchas ciudades que implementaron el reconocimiento facial con gran pompa estén dando marcha atrás y otras lo están prohibiendo de manera preventiva, parece oportuno llamar la atención sobre las potenciales consecuencias de esta tecnología si se mantiene en los molinetes del Tren Mitre. A la luz de las muchas preguntas que surgieron con el sistema porteño de reconocimiento facial de prófugos, creemos que es fundamental exigir un debate amplio, previo y continuo sobre los usos del reconocimiento facial, aun en pos de una presunta morigeración de los efectos de la COVID-19.

Abogamos, entonces, por un debate que involucre a todas las partes potencialmente interesadas: ciudadanos y ciudadanas; sus representantes; las ONG que se ocupan de la tecnología, de la salud y de los derechos; el sector privado; la academia. Al mismo tiempo, entendemos necesario requerir que -incluso en un contexto de emergencia- las contrataciones sean transparentes, con explicitación no únicamente de los montos involucrados, sino también de las alternativas existentes y de los propósitos perseguidos y factibles de la tecnología contratada. Para culminar este catálogo incompleto, es crucial proponer que los tomadores de decisiones se dejen ayudar, para no terminar comprando caballos de Troya revestidos con espejitos de colores.

La pandemia podría presentarse como la ocasión perfecta para lavarle la cara al reconocimiento facial. Las empresas han remozado su discurso, pero no las implicancias de la tecnología que venden. Los gobiernos se han subido al vagón de un supuesto progreso al que nos están arrastrando por la fuerza. Depende de nosotros elegir en qué estación bajaremos. En definitiva, es hora de que comencemos a valorar la importancia de observar a quienes nos observan.

¿Quién sos? Modifican unos anteojos inteligentes para identificar a cualquier persona en la calle usando inteligencia artificial

Acusado de no moderar el contenido de los chats. Si Telegram es inexpugnable, ¿por qué detuvieron a su creador en París?

¡Basta de spam! WhatsApp bloqueará automáticamente a los usuarios desconocidos que te envíen muchos mensajes sin aviso