Eric Sadin: "La tecnología pone en peligro nuestra capacidad de actuar libremente"
El filósofo francés, que participará mañana en La Noche de la Filosofía, alerta sobre los peligros de la "administración robotizada de nuestra existencia" a través de dispositivos inteligentes, y llama a rechazar su consumo como "un gesto político y civilizatorio"
Para Eric Sadin, una de las personalidades más destacadas entre los ensayistas franceses actuales, la humanidad no es la que está en peligro ante la nueva relación hiperindividualizada y geolocalizada de las tecnologías inteligentes. Nacido en 1973, generación bisagra a la aparición de Internet, Sadin se ha dedicado a estudiar el alcance de nuestra relación con las nuevas tecnologías y su consecuencia en términos humanos. ¿Hacia qué tipo de sociedades vamos con nuestras existencias duplicadas en redes sociales, GPS, huellas digitales de consumo, asistentes personales como Siri o Google Assistant? ¿Serán reales ciertos escenarios de dependencia existencial a las tecnologías planteados en series como Black Mirror? O si -vamos más atrás- ¿ya es una realidad Hal 9000 la súper computadora que imaginó Stanley Kubrick en 2001Odisea del espacio?
Según este filósofo -que participará mañana en La Noche de la Filosofía-, no es la especie humana la que está en peligro sino nuestra capacidad de juzgar y actuar libremente. Ve en el rechazo al consumo de ciertos dispositivos inteligentes un "gesto político y civilizatorio". Porque lo que está en juego, dice, es un modelo de civilización contra otro. Y en esta entrevista hará un llamado urgente, como ciudadanos, a movilizarnos.
Su libroLa humanidad aumentada, recién editado en la colección Futuros próximos de la editorial Caja Negra, es el único traducido al castellano. Allí Sadin se para a reflexionar sobre el gerenciamiento digital del mundo. Lo que él llama "la administración robotizada de nuestra existencia". La sofisticada imbricación entre la inteligencia computacional y la humanidad que llega a meterse hasta lo más íntimo de la vida cotidiana.
-En esta “era inteligente de la técnica” se debilita la capacidad humana de decidir. Se diluye lo que históricamente nos definió como especie: el discernimiento. ¿Hacia dónde vislumbra que se encamina la humanidad y el rol de nuestra especie?
-La inteligencia artificial se erige de aquí en adelante en una suerte de superyo dotado de la intuición de la verdad y llamado a guiar en toda circunstancia nuestras vidas hacia la mayor eficacia y confort imaginables. Dimensión emblemática que está en las aplicaciones de asistentes personales, de eficacia todavía balbuciente, como el Siri de Apple, Google Assistant o Alexa, de Amazon. Se han dicho muchas cosas de la inteligencia artificial, en especial que iba eventualmente a volverse contra sus progenitores. Visión grotesca y fantasmática. Porque no es la raza humana la que está en peligro, sino más bien la figura humana, en tanto que dotada de la facultad de juicio y de actuar libremente y a conciencia. Porque es nuestro poder de decisión el que va poco a poco a ser desposeído, llamado a ser sustituido por sistemas que se suponen omniscientes y más aptos para decidir el "perfecto" curso de las cosas en el mejor de los mundos.El sistema Watson por ejemplo, desarrollado por IBM y que no deja de perfeccionarse, está destinado a guiar la acción humana en los campos de la medicina, de la actividad bancaria, de las aseguradoras, de la evaluación jurídica, del trabajo en las empresas.. Son todos los sectores de la vida los que son llamados a orientarse por sistemas supuestamente omniscientes, que tienden a excluir la figura humana del círculo de las decisiones. Por lo demás, esos sistemas proceden de un reduccionismo, porque todas las cosas del mundo, contrariamente a lo que afirma la ideología de silicolonización no pueden ser reducidas a datos. Es sobre todo nuestra aprehensión sensible de las cosas la que tiende a ser siempre postergada en favor de una inteligibilidad de los fenómenos bajo el único prisma de los datos numéricos.
-En un futuro cercano, gobernados más por sistemas que tomarán decisiones luego de procesar infinitos volúmenes de datos, ¿Cuáles podrían ser las fisuras del sistema? ¿Qué fenómenos vislumbra como contraculturales? ¿Existirá una forma de rebelarse ante esta ineludible gobernabilidad digital?
-Todos somos ciudadanos, pero igualmente consumidores, y podemos por medio de decisiones simples, pero de una temible eficacia, mantener a raya ese modelo. Por mi parte, llamo al rechazo de la compra de objetos conectados y de protocolos llamados inteligentes, encargados de asistirnos de manera continua, así como de contadores eléctricos conectados que, por ejemplo, memorizan nuestros gestos en el seno de nuestros habitats. Nunca como hoy el rechazo del acto de comprar está revestido de semejante alcance político, incluso civilizatorio. Contra la ambición desmesurada del tecnoliberalismo de querer pilotear el curso de nuestras vidas, debemos salvaguardar la parte inviolable de nosotros mismos así como nuestra autonomía de juicio y de acción. Porque lo que está en juego es un modelo de civilización contra otro, y hay que elegir. Uno, del que provenimos, fundado sobre la libre expresión de los individuos y el derecho a decidir libremente y por medio de la deliberación del curso de nuestras sociedades. El otro, fundado sobre la algoritmización sin cesar creciente de la vida, sobre el control de la industria de lo numérico en todos los campos de la vida, que ejerce una presión continua sobre la decisión humana con vistas a satisfacer sólo intereses privados. Resulta urgente movilizarnos. Debemos esperar que una multitud de iniciativas y de acciones concretas se pongan en marcha, firmemente decididas a obstaculizar ese anarcoliberalismo numérico indigno y a hacer valer modos de existencia plenamente respetuosos de la integridad y de la pluralidad de la vida humana.
-Usted postula el nacimiento de una nueva condición antropológica: la antrobología. ¿Podría explicar en qué consiste usando algunos ejemplos de la sociedad actual y su vínculo con la última tecnología?
-Hoy, paralelamente a la era del acceso a la información que no cesa de intensificarse, se ha franqueado una nueva etapa. Entramos en lo que llamo "la era de la medida de la vida". Si no estamos atentos, todo lo que hay en el mundo estará conectado: cuerpos, colchones, espejos, biberones, vestimentas, cadenas de producción en las empresas… En teoría la lista es infinita. Este entorno tecnológico conlleva una visibilidad en tiempo real y eventualmente a un estado "integral" de nuestras vidas. Así como a una cuantificación continua de nuestros gestos. Los datos recogidos son tratados por sistemas de inteligencia artificial capaces de actuar retroactivamente con vistas a dos objetivos. El primero apunta a la propuesta de ofertas o de servicios adaptados, supuestamente, a cada instante de la vida cotidiana, y que conducen finalmente a un mercadeo integral de la vida. El segundo apunta a orientar la acción humana. Dimensión particularmente emblemática en las empresas, que ve a sistemas dictar los comportamientos del personal en función sólo de criterios de optimización y de fluidificación que priva a los individuos de su espontaneidad y de su poder de invención. Lo que ultraja no solamente los derechos del trabajo, sino también la integridad y la dignidad humana. Hay que subrayar que esos sistemas salen directamente de lo que se llama "la innovación numérica", este nuevo ídolo de nuestro tiempo celebrado por todos con encandilamiento culpable.
-¿A qué se refiere con lo que llama la “silicolonización del mundo”?
-Silicon Valley encarna el insolente triunfo industrial de nuestro tiempo. Rebosa de grupos que dominan la industria de lo numérico y que acumulan cifras de negocios que hacen soñar a los emprendedores del mundo entero. Todas las regiones del globo buscan, de aquí en adelante, duplicar su núcleo actual del negocio, ya sea en la economía de datos o de plataformas. Desde hace un tiempo Silicon Valley no remite ya solamente a un territorio, ha generado un espíritu que pasa a colonizar el mundo, impulsado por numerosos misioneros: industriales, universidades, think tanks… y por una clase política que alienta la construcción de "valleys" sobre los cinco continentes, bajo la forma de ecosistemas numéricos y de incubadores de start-ups. Lo que llamo la "siliconización del mundo" es la convicción de que ese modelo representa el horizonte insuperable de nuestro tiempo y que, por añadidura, encarnaría una forma luminosa del capitalismo. Un capitalismo de un género nuevo, adornado de "virtudes igualitarias", dado que ofrece a todos, desde el "start-upper visionario" hasta el "colaborador creativo", o al "autoemprendedor autónomo" la posibilidad de conectarse y de expandirse. Pero lo que no se ve, es que más allá de un modelo económico, lo que se está instalando a toda velocidad es un modelo civilizatorio, fundado sobre la mercadización integral de la vida y la organización automatizada de sectores cada vez más numerosos de la sociedad.
-Suena peligroso imaginar sociedades donde crezca cada vez más el poder que se le delega a la técnica. ¿Cómo lo ve usted?
-En menos de una generación, los principios humanos que nos fundan están siendo erradicados por los desarrollos de la inteligencia artificial. Porque, según la visión siliconiana, lo humano no es gran cosa. Dios no llegó a terminar la creación. (Lo humano) es una suerte de cuerpo corruptible, falible, de competencias cognitivas limitadas. Las tecnologías llamadas "de lo exponencial" van a permitir redimir nuestra pobre condición y conducirnos sin fin hacia "lo mejor". Es con esa perspectiva, en conformidad con ese positivismo radical, que hay que entender el delirio transhumanista, que considera que la técnica, a partir de ahora, está dotada de un poder tal que podrá detener e invertir el proceso natural de lo viviente. O que incluso fantasea con una grotesca descarga de información del cerebro con chips de silicio, ignorando por completo la irreductible complejidad de nuestros circuitos neuronales. Es hora de deshacernos de nuestra fascinación beata por las tecnologías y de entrar individual y colectivamente en la era de la responsabilidad. Y eso no tiene que ver sólo con prestar atención a la cuestión de los datos personales. Porque creo que sobre ese tema estamos en el meollo de uno de los grandes malentendidos de nuestra época. La cuestión crucial no tiene que ver con nuestra vida privada, la cual, por cierto, nos importa a todos, pero que representa tan poco en relación a lo que actualmente se trama y que debería, por lo demás, movilizarnos. Porque la gran cuestión no es una cuestión de sociedad, es una cuestión de civilización. Aquella que busca a la larga convertir todo en mercancía, automatizar y orientar la vida de las personas con el fin de de satisfacer únicamente intereses privados. Ese modelo se desplegará sobre todo si los datos están perfectamente protegidos instaurando una "confianza en la economía numérica", apta para asegurar su expansión. Hay que entender bien el control sobre la vida que está operando el tecnoliberalismo, al cual sería apropiado oponerle fuerzas contrarias. Porque de nuestro grado de movilización ciudadana y política ante estos desafíos dependerá nada más ni nada menos que la naturaleza presente y futura de nuestra civilización.
En La Noche de la Filosofía
Será mañana, sábado 24 de junio, desde las 19 hasta las 2, en el CCK (Sarmiento 151). Las entradas son gratuitas y se retiran el mismo día desde las 15. Eric Sadin se presentará a las 22.45 junto a Tomás Abraham, Evelyne Mesclier y Alejandro Boverio. La programación completa se puede consultar aquí.