Intimidad en peligro: cuando la máquina piensa por el consumidor

Un grupo de amigos conversaban sobre sus preferencias en series. "Tienen que ver Peaky Blinders -dijo uno de ellos-, se trata de una banda mafiosa de principios del siglo XX en el Reino Unido. Está muy buena". De inmediato, los demás tomaron sus smartphones y comenzaron a googlear el nombre para obtener más información. Cuando el primero de ellos escribió la palabra "Peaky", el buscador le ofreció varias opciones para completar la búsqueda: la primera era "Blinders". Al segundo le fue suficiente digitar "Pea" para que el título completo apareciera en la pantalla. Al tercero le bastó la letra "P"... ¿Magia? ¿Telepatía? No, inteligencia artificial (IA).

Julio Verne, Fritz Lang, Isaac Asimov, Arthur C. Clarke y tantos otros creadores de la ciencia ficción introdujeron el tema de la IA (aunque aún no se usaba esa expresión) en sus relatos. Robots, autómatas, computadoras inimaginables para la época y otras máquinas capaces tomar decisiones por sí solas hacían las delicias de sus lectores.

Uno de los ejemplos más recordados fue HAL (cuyo nombre alude a IBM, ya que su sigla se compone de las letras que anteceden en el abecedario a las del gigante azul), la estrella de 2001 Odisea del Espacio, de Clarke. La novela relata el viaje a Júpiter de una nave espacial enviada desde la Tierra. A medida que transcurre la acción, la computadora se "enoja" y elimina a varios tripulantes porque "teme" ser desconectada. Con el justificativo de cumplir un "fin mayor", HAL se había vuelto en contra de su creador.

En esencia, la IA es una serie de complejos algoritmos capaces de analizar e interpretar enormes cantidades de información para ofrecer, al instante, la respuesta que "intuyen" que el usuario necesita en ese momento. Su uso ha mejorado la calidad de vida de la mayoría de nosotros. Puede ayudar a encontrar la ruta más despejada para una entrevista de trabajo, sugerir las mejores ofertas de pasajes de avión, avisar cuando un amigo se encuentra cerca o cuidarnos la salud... Se trata de una interminable lista de beneficios que ni el más genial escritor de ciencia ficción hubiera podido imaginar. Todo gratis. ¿Todo gratis? No, aunque el precio que paguemos no sea monetario.

Para cumplir su propósito, las grandes bases de datos necesitan alimentarse con enormes cantidades de información. El costo que pagamos por las ventajas recibidas es compartir con las empresas proveedoras todo lo que hacemos, día y noche. Al analizar esa información, la IA está en condiciones de sugerirnos productos, servicios y opiniones afines a las nuestras. Esto último es el mayor peligro.

Al inducirnos a escuchar o a leer medios de prensa alineados con nuestra ideología, la IA contribuye a reforzar nuestros sesgos y prejuicios. Esta tendencia se observa cada vez más en el mundo. Es así como la brecha ideológica se amplía, y en muchos países las diferencias se tornan irreconciliables. El nuestro es un ejemplo palpable.

Entre los defensores y los detractores de la IA, también parece haber visiones enfrentadas. El argumento central de los primeros es que la estupidez natural puede causar más daño que la IA. Uno de los ejemplos de más peso es el de los militares, que la están aplicando en el desarrollo de sistemas para el control de armamentos. El mayor temor de los segundos es la intimidad y el punto de "singularidad tecnológica", el momento en que las máquinas serían "más inteligentes" que las personas. A partir de entonces, el crecimiento podría producir cambios imprevisibles para la humanidad: la fantasía llevada a la realidad.

Tim Cook, el CEO de Apple, sostiene que la intimidad de las personas es un derecho humano. El tema adquiere mayor relevancia luego de las filtraciones de datos para uso en campañas políticas y de marketing. Entonces, ¿cómo estar seguros de que no se está usando también con otros fines? ¿Qué puede asegurar que buscando "el mayor bienestar para la mayor cantidad de personas" las computadoras cometan injusticias con unos pocos? ¿Quiénes dictarán las reglas morales de autómatas más inteligentes que los seres humanos? La lista de preguntas sigue de manera indefinida.

Más allá de la voluntad de control, la aceleración del progreso tecnológico en pos de la singularidad es una realidad inevitable. Alcanzarla es solo cuestión de tiempo. Sus peligros están latentes; las maneras de resolverlos siguen pendientes. Sugerir el nombre de una serie puede parecer un efecto menor y hasta deseable. Conducir a los individuos hacia posiciones extremas que terminen en conflictos con consecuencias irreparables puede ser tanto o más peligroso que HAL furiosa.

El autor es profesor de la Escuela de Negocios de la UTDT

Conforme a los criterios de

Conocé más

Secretos de productividad. Las falsas urgencias que dinamitan la proactividad

Nueva era. Un CEO llega a la Casa Blanca y se posicionó cerca de las palancas del poder

Marketing casero. Casos insólitos: cómo elegir el nombre de una empresa sin pisar una agencia creativa