Lecturas: Reflexiones urgentes sobre la inteligencia artificial
La bibliografía sobre los riesgos de una IA sin control crece día a día: a esos libros acaban de sumarse Nueve gigantes, de Amy Webb, y Manipulados, una investigación sobre Facebook
- 6 minutos de lectura'
PARA LA NACIONAna María Vara
La amenaza es enorme: abarca todas las esferas de la vida social y se proyecta como una sombra ominosa sobre el futuro. Tenemos que reaccionar. Ese es el mensaje central de Nueve gigantes. Las máquinas inteligentes y su impacto en el rumbo de la humanidad, de Amy Webb (Chicago, 1974), que analiza el alcance de la inteligencia artificial (IA), su estado de desarrollo y el riesgo de su evolución si no intervenimos.
Webb es futuróloga. No es chiste: es profesora de prospectiva estratégica en la Escuela de Negocios Stern de la Universidad de Nueva York. Que es como decir que está en el corazón de la cultura empresaria norteamericana. La especialista hace cinco observaciones clave. La primera es que la inteligencia artificial está volviéndose omnipresente y transformando nuestras vidas de manera radical, desde cómo reservamos un pasaje, elegimos una película o nos dan (o no) un crédito. La segunda es que su presencia pasa inadvertida para buena parte de la sociedad: no tenemos conciencia de estar viviendo en un entorno en que las máquinas toman decisiones por nosotros.
La tercera y la cuarta son geopolíticas. La inteligencia artificial (IA) se está desarrollando fundamentalmente en dos países: Estados Unidos y China, pero solo en China hay algún tipo de planificación.
"No se trata de un oligopolio solo económico sino también cultural: todas están controladas por apenas un puñado de personas, la mayoría hombres con formación técnica y nada de humanidades ni ciencias sociales, egresados de unas pocas universidades"
Esto último, la diferencia entre Estados Unidos y China, puede ser origen de desestabilizaciones. Pero hay todavía algo más grave y profundo, la quinta observación de Webb, que es común a ambos países: la IA es desarrollada por apenas nueve empresas, los “gigantes” del título. Del lado norteamericano, son la “G-Mafia”: Google, Microsoft, Apple, Facebook, IBM, Amazon. Del chino, son las BAT: Baidu, Alibaba y Tencent.
No se trata de un oligopolio solo económico sino también cultural: todas están controladas por apenas un puñado de personas, la mayoría hombres con formación técnica y nada de humanidades ni ciencias sociales, egresados de unas pocas universidades.
Es decir, la inteligencia artificial nace sesgada desde sus orígenes. No puede extrañar, entonces, que los sistemas de reconocimiento facial se equivoquen y manden a la cárcel a los afroamericanos, ni que una base de datos alimentada con “hombre es a rey como mujer es a reina” llegue a una conclusión como: “hombre es a programador de computadoras como mujer es a ama de casa”.
Epítome de una alarma generalizada en la bibliografía, el libro de Webb es uno de los más recientes en la serie de volúmenes casandrianos: profecías todavía no escuchadas.
En estos días, se sumó a la lista en español Manipulados. La batalla de Facebook por la dominación mundial, en que Sheera Frenkel y Cecilia Kang, periodistas de The New York Times, indagan de manera minuciosa y bien periodística en las operaciones y manejos dudosos de la red social del título, la mayor del mundo. Pero ya en 2015 The Black Box Society. The Secret Algorithms That control Money and Information (“La sociedad como caja negra. Los algoritmos secretos que controlan el dinero y la información”, aún no traducido al español), de Frank Pasquale, profesor de derecho en la Universidad de Maryland, advertía de los peligros de un ecosistema de plataformas que ávidamente recolectan las huellas que dejamos en internet (los datos), para crear perfiles de nosotros y de gente como nosotros.
La metáfora de la “caja negra” es reveladora: una sociedad que se basa en decisiones tomadas de manera automática, a cuyos criterios no tenemos acceso los usuarios y, a veces, ni siquiera las propias empresas. ¿Por qué? Porque los sistemas tienen una capacidad de aprendizaje que se refina a partir de los datos recolectados y que va más allá de las bases con que se los entrenó inicialmente.
Pasquale se enfocaba allí en dos problemas álgidos en Estados Unidos: el seguro de salud, cuya cuota puede encarecerse por enfermedades preexistentes, y el registro de crédito, que penaliza con mayores intereses a quienes se atrasan en los pagos, alimentando un ciclo de endeudamiento sin salida.
Ya comentado en esta sección, otro libro importante y, por suerte, traducido, es el de Cathy O’ Neil, Armas de destrucción matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia, de 2016, que se enfoca en los procesos de selección de personal, las primas de los seguros y los antecedentes criminales que penalizan a los más débiles.
"los problemas aumentan porque los sesgos ciegos de los algoritmos se ven reforzados por el afán de clics de las empresas"
Hay miradas más matizadas, como la de Ed Finn, director del Centro para la Ciencia y la Imaginación de la Universidad de Arizona. En What Algorithms want. Imagination in an Age of Computing (“Lo que quieren los algoritmos. La imaginación en una era de la computación”), publicado por la editoral del MIT en 2017, Finn abre su foco y analiza el entorno de los algoritmos. Mira hacia atrás, cómo y dónde fueron creados, y para responder qué preguntas. Y hacia adelante: qué cultura contribuyen a construir.
Pensemos en los algoritmos de Netflix y cómo nos sugieren películas, en los de Facebook e Instagram y cómo nos sugieren amigos. Claro que la situación se vuelve delicada cuando un simpatizante de ideas de derecha termina inundado de propuestas de explorar sitios nazis, promoviendo su radicalización.
En todos estos casos, los problemas aumentan porque los sesgos ciegos de los algoritmos se ven reforzados por el afán de clics de las empresas: la avidez por recolectar datos hace que se incentive el estar conectado y la sensación de que unas horas sin redes puede dejarnos afuera del mundo. La codicia de las empresas como invitación a la adicción.
Entre los resultados de alto impacto de estas nuevas tecnologías que ya fueron constatados, investigados y relatados, el caso más revelador es el de Cambridge Analytica, la empresa inglesa financiada por magnates norteamericanos que logró forzar el Brexit y terminó de asegurar la elección de Donald Trump.
Por un lado, Mindf*uck. Cambridge Analityca. La trama para desestabilizar al mundo es el relato de Christopher Wiley, un insider: uno de los analistas de datos que participó en las campañas tramposas, basadas en el uso de datos y algoritmos, que permitió personalizar los mensajes.
Usando las bases de Facebook y unas buenas herramientas de psicología, desarrollaron mensajes a medida de distintos perfiles de votantes, que enviaban en los momentos del día de mayor vulnerabilidad. Como leer nuestra mente y atacarnos con las defensas bajas.
También está disponible la versión de otra arrepentida, Brittany Kaiser: La dictadura de los datos. La verdadera historia desde dentro de Cambridge Analytica y de cómo el Big Data, Trump y Facebook rompieron la democracia y cómo puede volver a pasar, publicada en 2020.
Volviendo al libro de Amy Webb, queda resonando su advertencia final, que tiene que ver con la superinteligencia artificial: la capacidad de las máquinas de superar el pensamiento humano, de ir más allá de cómo prevén los programadores.
No todo parece perdido. Puede hablarse hoy de esfuerzos en distintos ámbitos para controlar a los gigantes, abrir la caja negra de los algoritmos y ponerlos bajo el control democrático. Como con la otra gran crisis que nos afecta, la de cambio climático, la pregunta es si estaremos a tiempo.
Nueve gigantes
Por Amy Webb
Paidós. Trad.: María M. Correa
381 páginas, $ 1750
Manipulados
Sheera Frenfel y Cecilia Kang
Debate
Trad.: Juan R. Gascón
368 páginas, $ 1799
Por Ana María Vara
Temas
Conforme a los criterios de
