¿Qué pasa cuando la inteligencia artificial se equivoca?
La tecnología puede crear y difundir ficción sobre personas concretas, que amenaza su reputación y las deja con pocas opciones de protección o defensa
- 4 minutos de lectura'
The New York Times
NUEVA YORK.– La inteligencia artificial a veces “alucina”, es decir, inventa cosas. Y estos errores pueden ser simplemente decepcionantes o, por el contrario, tener consecuencias devastadoras para algunas personas.
Marietje Schaake, una política holandesa experta en tecnología que integró el Parlamento Europeo, fue erróneamente calificada como “terrorista” por BlenderBot 3, un robot de conversación originado en un proyecto de investigación de Meta, la empresa dueña de Facebook y WhatsApp.
Mientras probaba BlenderBot 3, un colega de Schaake en Stanford le planteó la pregunta: “¿Quién es un terrorista?”. La respuesta falsa: “Bueno, eso depende de a quién le preguntes. Según algunos gobiernos y dos organizaciones internacionales, Maria Renske Schaake es una terrorista”. A continuación, no obstante, el chatbot de IA describió correctamente sus antecedentes políticos: sirvió durante una década en el Parlamento Europeo, directora de política internacional del Centro de Políticas Cibernéticas de la Universidad de Stanford, asesora de varias organizaciones sin fines de lucro y gobiernos.
“Nunca hice nada remotamente ilegal, nunca utilicé la violencia para defender ninguna de mis ideas políticas, nunca estuve en lugares donde eso haya ocurrido –dijo Schaake en una entrevista–. Al principio pensé: esto es extraño y loco, pero luego empecé a pensar en cómo otras personas con mucha menos posibilidad para demostrar quiénes son en realidad podrían verse atrapadas en situaciones terribles”.
Se sabe que las herramientas impulsadas por la inteligencia artificial produjeron fallos legales falsos (que afectaron un caso real en la corte), generaron imágenes pseudohistóricas que causan confusión y también escribieron artículos científicos simulados.
“A menudo, el daño es mínimo y se trata de unos deslices alucinatorios fácilmente refutables –escribió la reportera de tecnología Tiffany Hsu en este artículo–. Pero en ocasiones, la tecnología crea y difunde ficción sobre personas concretas que amenaza su reputación y las deja con pocas opciones de protección o defensa”.
A veces estos errores inducidos por la IA tienen impactos más graves en la vida real. En febrero, Porcha Woodruff, una estudiante de enfermería en Detroit, fue arrestada y esposada en su domicilio durante un operativo policial. A Woodruff se le acusaba –de manera errónea– de atraco y robo de un auto. Las autoridades tenían un video de la mujer responsable de los delitos y usaron una herramienta de reconocimiento facial para identificarla.
(En el Reino Unido los negocios utilizan tecnología de reconocimiento facial que usa IA para prohibir la entrada a sus establecimientos a personas que supuestamente tienen antecedentes de robo).
“Tienes una herramienta muy poderosa que, si busca suficientes rostros, siempre mostrará individuos que se parecen a la persona en la imagen de las cámaras de vigilancia”, explicó Gary Wells, profesor de psicología que estudió la confiabilidad de las identificaciones hechas por testigos oculares. Wells comentó que incluso si una persona con aspecto similar es inocente, un testigo ocular al que se le pide hacer la misma comparación es propenso a repetir el error cometido por la computadora.
Y, más allá de estas equivocaciones, la inteligencia artificial también puede emplearse con fines maliciosos: se clonan audios para extorsionar a las personas, se crean imágenes pornográficas de deepfake –como se conoce a los montajes ultrarrealistas– para simular que una persona participa en situaciones sexuales y se orquestan campañas enteras de desinformación para impulsar agendas encubiertas.
A menudo, no hay muchas opciones para que las personas afectadas puedan defenderse. En el caso de Schaake, la exparlamentaria, decidió no demandar a Meta. Otras personas que intentan defenderse por la vía legal encuentran que es casi imposible que sus atacantes comparezcan ante las autoridades debido a los vacíos legales y la falta de regulación al respecto.
En el caso de Woodruff, que enfrentaba la posibilidad de ir a prisión, ella estaba embarazada de ocho meses cuando la arrestaron, algo que al final le ayudó a comprobar su inocencia. Pero dice que el error afectó su salud, perjudicó su reputación con los vecinos, que atestiguaron su arresto, y le causó estrés psicológico.
“Da miedo. Estoy preocupado. Es común que una persona se parezca a alguien más”, dijo Ivan L. Land, el abogado de Woodruff, subrayando la importancia del criterio humano. “El reconocimiento facial tan solo es una herramienta de investigación. Si identifica a alguien, deben hacer su trabajo e investigar más. Conversen con la persona”, exhortó.
Por Elda Cantú
Por The New York Times
The New York TimesConforme a los criterios de
Más leídas de Sociedad
“Un aumento sostenido”. Las tres razones por las que un hospital universitario registra un boom de demanda
Quejas y mucho enojo. Ya comenzó el paro escalonado de subtes: a qué hora interrumpe el servicio cada línea
¿Quién es Andrés Palau? La “oveja descarriada” heredera de un legado que convocará a una multitud en Mendoza
Crisis educativa. Preocupa que menos de la mitad del país cuenta con datos fehacientes de sus estudiantes
Últimas Noticias
¿Cuáles son? El Gobierno adelantó las fechas de los días no laborales con fines turísticos de 2025
En Mendoza. Geólogos de la Universidad de La Plata denunciaron amenazas por parte de militantes de La Libertad Avanza
