Cuando a la inteligencia artificial se le suelta la cadena

Esto va a sonar un poco a ciencia ficción. Pero antes, una pregunta: ¿qué deberías hacer si un robot se sale de control? No, esa no es la pregunta. Es, más bien: ¿qué podrías hacer?

Mi aspiradora robótica, Rumbi, a quien ya conocen, no ha hecho sino darnos un servicio excelente durante los casi tres años que lleva con nosotros. Solo sufrió un incidente, hace poco, que no fue grave y que definitivamente podría haberse resuelto mediante código. En todo caso, debo aclararlo, ni es el modelo más moderno ni es de los que se pueden actualizar por medio de Internet.

Decía que no tengo motivo de quejas. Pero hace unos días ocurrió algo que me dejó pensando. De pronto, sin que ningún gato le pasara por encima (tiene el botón de arranque en su parte superior, y es lo bastante grande para que un felino doméstico lo presione involuntariamente), emitió los pitidos típicos del arranque, salió marcha atrás de su dock y se puso a limpiar.

“OK –me dije–, esto es nuevo.” Fui hasta la aspiradora robótica y apreté el botón de apagado; es el mismo que se usa para ponerla en marcha, así que no hay modo de equivocarse. Hagan la señal de OK con los dedos; ese es el tamaño del botón.

Nada. Presioné de nuevo. Lo mismo. No estaba respondiendo. Es decir, se había puesto en marcha por las suyas y ahora me ignoraba. Para un lunes a la noche era bastante terrorífico. Sabía que era inútil, pero por si acaso apreté el botón un par de veces más. La máquina siguió como si nada. Genial. Estaba por sentarme a comer y de pronto tenía un robot sedicioso dando vueltas por el living.

Por fortuna, estas aspiradoras tienen una manija rebatible en la parte superior. Es más que nada un detalle de confort, para poder trasladarlas de un lugar al otro de manera fácil. Solo que, además, al levantarlas, se detienen. Es equivalente a apretar el botón de arranque. Así que era mi último recurso. La sujeté por la manija, la levanté en el aire y entonces dejó de funcionar. Chica lista; como usa los sensores de la parte inferior, levantarla equivale a que está por despeñarse y se detiene. Así que, amotinado o no, el robot conservaba su instinto de supervivencia.

Volví a dejarla en el piso, sospechando que iba a ponerse a dar vueltas de nuevo. Pero no. Apreté el botón para que volviera al dock. Cosa que hizo, al parecer habiendo desistido de su asonada mecánica. Volví a la mesa. Había un clamor generalizado por saber qué había sido esa situación poco clara y a todas luces anómala.

–Rumbi me desobedeció –respondí. Y seguí comiendo, mientras le daba vueltas al acontecimiento. Por fortuna, concluí, la aspiradora tenían esta suerte de resguardo; probablemente no con ese fin, pero al menos no había tenido que forzar las cosas.

Por forzar las cosas me refiero a darla vuelta por las malas (no es un aparato pequeño) y sacarle las baterías, para lo que es menester destornillar una tapa. No habría sido lindo. Y sí, ya sé que hay otra opción, que es la de mantener presionado el botón de arranque unos 10 segundos. Me gustaría que intentaran hacerlo con una máquina que no para de dar vueltas de aquí para allá. Además de que tampoco habría sido lindo, habría terminado de bruces en el piso con un robotito muerto de risa escapándose por el cuarto de servicio.

El botón rojo

“Esto no es un caso aislado”, me desperté pensando al otro día. Me había venido a la mente el trágico accidente del vuelo 296 de Air France, que al pasar a baja altura durante un show aéreo, se estrelló en un bosque y dejó tres muertos y 50 heridos. Los resultados de la investigación arrojaron que fue un error del piloto; los pilotos alegan que la computadora dejó de obedecerles cuando consideró que, a tan baja altitud y con el tren desplegado, la idea era aterrizar. No respondió entonces a los intentos de levantar la nariz y acelerar los motores.

No tengo elementos para creerle a una u otra parte, pero desde 1988, cuando fue el accidente, hasta el otro día, cuando una aspiradora robot desobedeció descaradamente, siempre supe que las máquinas pueden perder el control, colgarse, trularse, soltárseles la cadena, llámenlo como mejor les guste. Si el vuelo 296 no fue causado por los pilotos, sino por la computadora, ese Airbus debería haber tenido un botón rojo así de grande para retomar control manual completo de la nave. Cosa que –antes de que me lo digan– no es sencilla. Pero es necesaria.

Entonces, unos días después, mientras seguía pensando en el asunto, ocurrió algo sorprendente.

¿Me llevás?

Pasó que un coche autónomo de Waymo (es decir, de Google) tuvo un incidente semejante al de Rumbi. No porque se haya activado solo, sino porque empezó a tomar decisiones por las suyas, tras confundirse con los conos de señalización que una empresa constructora había puesto en la avenida.

Dos cosas aquí. Primero, pusieron conos de señalización. No pusieron maquetas de arqueópterix pintadas de dorado. Se supone que una de las primeras cosas que debería saber la inteligencia artificial (IA) de un coche autónomo es qué hacer con los conos. Segundo, toda la situación fue extremadamente peligrosa. Si no ocurrió nada grave fue básicamente porque Dios no lo quiso. Habría bastado un conductor imprudente (o uno de los muchos papanatas que manejan mirando el celular) para que la situación terminara en tragedia. El autor del video, que recomiendo ver entero (son 35 minutos imperdibles), lo sabe, y, pese a que intenta parecer tranquilo (lógico, está en manos de un coche que toma decisiones de forma autónoma), su lenguaje corporal indica algo muy diferente.

Así que aunque el comunicado de Waymo intenta ponerle paños fríos al incidente, la situación causada por un coche autónomo fue gravísima. No pasó nada, pero eso no fue por la pericia de la inteligencia artificial ni por la presteza de Waymo para responder a la emergencia. El autor del video, Joel Johnson, estuvo más de 6 minutos aguardando que un empleado de Waymo tomara control del coche y lo sacara del medio de una avenida muy transitada. Seis minutos es mucho tiempo para estar detenido en un lugar así.

La diferencia entre un coche y una aspiradora robot no necesita mucha elaboración. Pero la situación es la misma. Faltó el botón rojo así de grande para poner en pausa a la IA y resolver manualmente el conflicto. ¡Conflicto con conos! En fin, traducido: la inteligencia artificial no está ni remotamente cerca de manejarse en el mundo real. Que avanza rápido, no cabe duda, pero cuando sos un coche autónomo y te confundís con unos conos, algo está muy verde todavía.

Pero esa es la idea, en un punto. Google no usa Waymo para ganar plata. Es una forma de hacer marketing (incluso ahora, luego de este traspié) y de seguir entrenando a la IA en el mundo real. Pero le falta el botón rojo.

La pregunta es: ¿vos te subirías a un taxi autónomo que lo primero que te dice es que si algo sale mal aprietes ese gran botón rojo que hay delante tuyo? Exacto, es una mala idea. No solo porque espantaría a los clientes, sino por un motivo más sutil: ¿de verdad es seguro concederle al pasajero la potestad de cancelar la IA porque le parece que algo no está bien? Es pregunta.

Conforme a los criterios de

Tipo de trabajo:

análisis

Conocé más

Ficha limpia: no más demoras

AySA, agua para un solo molino

Dos caras de la basura