Lecturas: Yuval Noah Harari advierte que la inteligencia artificial debe ser controlada

En Nexus, su nuevo best seller, el ensayista israelí explora cómo la humanidad construye grandes narraciones de información y alerta sobre la canonización de la IA que se está dando en la actualidad

23 de noviembre de 2024
00:05
6 minutos de lectura'

Es sabido: el éxito puede convertirse en un problema. Porque no es tan fácil saber cómo conservarlo. Y en la industria cultural global, donde la presión sobre los ganadores es enorme, la fórmula está servida: repetir hasta que el género (o el personaje) se agoten.

Algo así puede estar pasando con Yuval Noah Harari (Kiryat Ata, Israel, 1976), el historiador israelí autor de los best sellers mundiales Sapiens. A Brief History of Humanity (de 2011, traducido como Sapiens. De animales a dioses) y Homo Deus. A Brief History of Tomorrow (de 2015, traducido más conservadoramente que el anterior como Homo Deus. Una historia del mañana), dos celebrados tour de force sobre la historia de la humanidad que fueron traducidos a más de sesenta lenguas y vendieron decenas de millones de ejemplares.

Son obras que abarcan milenios de desarrollo, desde el surgimiento de nuestra especie hasta el presente, sobrevolando épocas y simplificando argumentos para construir un relato ágil y medianamente coherente. Y donde la historia, más allá de la cantidad de páginas que se le destinen, ofrece ejemplos para intervenir en la discusión sobre los dilemas y conflictos actuales.

"En Nexus, la tesis central es presentada a partir de una fortaleza y una debilidad: que la característica distintiva de nuestra especie reside en la capacidad de establecer grandes redes de información. Pero que, debido al modo como son construidas, hay una tendencia a que hagamos “un uso imprudente del poder”"

Harari publicó también algunos subproductos: 21 lecciones para el siglo XXI (2018), una compilación de ensayos publicados en medios internacionales; la versión en forma de cartoon de Sapiens, en tres volúmenes (2020, 2021 y 2024); y Unstoppable us (Imparables), una serie de libros para chicos iniciada en 2022.

Pero el amplísimo arco temporal y la pretensión intelectual reaparecen en Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, cuyo subtítulo, explícito en cuanto al alcance de la obra, constituye uno de los guiños de reconocimiento de su linaje.

El otro guiño es, obviamente, el propio título, en que la reiterada apelación al latín otorga una apariencia de erudición a un trabajo que tiene grandes huecos teóricos, sobre todo en ciencia política, sociología y teorías de la comunicación.

En Nexus, la tesis central es presentada a partir de una fortaleza y una debilidad: que la característica distintiva de nuestra especie reside en la capacidad de establecer grandes redes de información. Pero que, debido al modo como son construidas, hay una tendencia a que hagamos “un uso imprudente del poder”.

"Para Harari, prevalece en nuestras sociedades ‘una idea ingenua de la información’, que caracteriza como un principio equivocado: que más información es mejor"

Las redes se tejen con grandes narraciones compartidas, que pueden derivar en “ficciones y fantasías”. Ejemplo extremo de esos desvíos: nazismo y estalinismo, “redes poderosísimas sostenidas por ideas excepcionalmente equivocadas”. Autor de respaldo: George Orwell quien afirmó, según Harari con acierto, que “la ignorancia es fuerza”.

La explicación sobre la posibilidad de estos “desvíos” se apoya en una acusación: que prevalece en nuestras sociedades “una idea ingenua de la información”, que Harari caracteriza como un principio equivocado: que más información es mejor. Suma luego otras dos nociones: la de “verdad” y la de “orden”. La primera alude a la calidad de la información; la segunda, a la cohesión (por persuasión o coerción) de la red. El balance entre ambas fuerzas sería la clave de las sociedades democráticas.

Como resume el autor, en un esquema teórico de mínimos elementos: “No basta con aumentar la cantidad de información de la red para garantizar su carácter benigno ni hacer que sea más fácil encontrar el equilibro adecuado entre verdad y orden”.

"Harari hace alarde de pesimismo, para alertar sobre los peligros de dejar esta tecnología sin regulación ni control"

La sentencia cierra un capítulo dedicado a la historia de la palabra impresa y su importancia en las burocracias estatales. Harari comparte ejemplos felices, como la eficaz respuesta a la epidemia de cólera en Londres en 1854, basada en la “burocrática” recolección de datos que permitió identificar el origen de los contagios. Pero también, situaciones desgraciadas, como la propia historia de su abuelo, perseguido en la Rumania de preguerra, en 1938, cuando se exigió a los judíos presentar pruebas de su ciudadanía, situación que derivó en un “infierno burocrático” y una trágica pérdida de protección estatal frente a la amenaza nazi.

Otras incursiones interesantes en la historia tienen que ver con los textos religiosos. Provocadoramente, Harari se pregunta, apuntando a los tres grandes cultos monoteístas: “Libros sagrados como la Biblia y el Corán son una tecnología de la información que pretende incluir cualquier tipo de información vital que la sociedad necesita y a la vez quedar libre de toda posibilidad de error. ¿Qué ocurre cuando una red de información se cree incapaz de cometer errores?”.

Vinculando historia y presente, Harari advierte que ‘estamos viviendo el momento crítico de la canonización de la IA’

Estos casos sientan las bases para su discusión de la situación actual, enfocada en el impacto de la inteligencia artificial (IA). Harari hace alarde de pesimismo, para alertar sobre los peligros de dejar esta tecnología sin regulación ni control.

Señala su poder: “La invención de la IA podría ser más trascendente que la invención del telégrafo, la imprenta e incluso la escritura, porque la IA es la primera tecnología de la historia capaz de tomar decisiones y de generar ideas por sí misma”. Augura que en los próximos años no habrá red de información (“desde los ejércitos hasta las religiones”) que no incorpore recursos de IA. De este modo, predice, “sistemas políticos, económicos y sociales enteros podrían desmoronarse, y otros nuevos ocuparían su lugar”.

Vinculando historia y presente, Harari advierte que “estamos viviendo el momento crítico de la canonización de la IA”. Por esto, reclama que la IA sea considerada “un asunto de máxima urgencia”. Se declara como “no determinista”, y subraya que es posible intervenir si se reconoce el poder de las tecnologías y se actúa en consecuencia. Advertencia en la que no está solo, habida cuenta de autores como Shoshana Zuboff, Evgeny Morozov, José Van Dijck o Amy Webb, entre otros, de perfil más bajo y argumentos más precisos.

El éxito de la fórmula de Harari deriva en parte de que evoca un género identificable que, con dispares recursos, cultivaron desde Marshall McLuhan a Jared Diamond, pasando por Alvin Toffler o Francis Fukuyama (con quien se lo ha comparado por su visión del fin de los tiempos). Varios de ellos se convirtieron, como él, en intelectuales del momento, cuya palabra era escuchada como la de un gurú. El futuro dirá cuánto queda de su nombre y sus ideas.