“Podrías darles un puñetazo en la garganta”, el insólito consejo del asistente Alexa a una madre para calmar a sus hijos
La respuesta del asistente de voz de Amazon a una usuaria obliga a la compañía a reconocer fallos en la moderación de los contenidos que filtra la herramienta
- 3 minutos de lectura'
“Alexa, ¿cómo consigo que mis hijos dejen de reírse?”, pregunta una usuaria al asistente de voz de Amazon. “Según un colaborador de Alexa Answers, si es conveniente, podrías darles un puñetazo en la garganta”, responde el aparato. La mujer ahoga una carcajada. Alexa continúa con el consejo: “Si se retuercen de dolor y no pueden respirar, será menos probable que se rían”, añade. La conversación, registrada en un video de TikTok que se ha viralizado, muestra la importancia de tener buenos sistemas de moderación de contenidos. Y de los catastróficos resultados que pueden traer fallos en ese protocolo.
La respuesta que aportó el aparato de Amazon procede de Alexa Answers, tal y como se apresuraron a destacar desde la compañía cuando salió a la luz el vIdeo. Alexa suele contestar a las preguntas de sus usuarios información que busca en Google o que relaciona con determinadas aplicaciones. Su algoritmo se encarga de calibrar cuál es la mejor opción en cada momento.
Sin embargo, hay veces que las preguntas formuladas son tan poco comunes que Alexa no sabe qué decir. En esos casos, recurre a la función Alexa Answers, un repositorio con respuestas aportadas por la comunidad de usuarios del asistente de voz. “Dejamos claro a los clientes cuando reciben una respuesta de Alexa Answers y contamos con un proceso de moderación de varias capas, que incluye automatización y moderadores capacitados”, señalan fuentes de la multinacional. “En las raras ocasiones en las que las respuestas no alcanzan los elevados estándares que hemos definido para la experiencia con Alexa, las eliminamos rápidamente, como hemos hecho en esta ocasión”, aclaran. Amazon retiró en septiembre, “en el momento en que tuvimos noticias de su existencia”, la polémica respuesta que sugería agredir a menores.
Los altavoces inteligentes Amazon Echo incorporaron al asistente de voz Alexa en 2014, convirtiéndose en poco tiempo en una referencia en el sector. La herramienta puede integrar otros dispositivos que sean compatibles con su sistema, como luces, cámaras de videovigilancia u otros elementos de domótica, para poder activarlos con instrucciones de voz.
Cómo funciona Alexa Answers
Cuando muchos usuarios preguntan a Alexa algo que no puede responder, esa pregunta se convierte en candidata para figurar en Alexa Answers. En caso de que se seleccione como válida, aparecerá en la lista de preguntas que los usuarios de Alexa que quieran contribuir pueden responder de forma voluntaria.
Las respuestas aportadas por la comunidad de usuarios son revisadas antes de ser dadas como válidas. Se aplica “una combinación de sistemas automáticos, miembros de la comunidad y moderadores de contenidos de Alexa Answers”.
EL PAISConforme a los criterios de
Más leídas de Tecnología
