Cómo es el algoritmo que usa la policía de Chicago para predecir un delito
En la Lista Estratégica de Sujetos de la policía de Chicago hay una serie de nombres de personas con altas probabilidades de disparar o recibir un disparo. ¿Cómo se crea esa nómina y cuáles son los peligros potenciales?
En Chicago, la tercera ciudad más poblada de Estados Unidos, la violencia está fuera de control. Pero la policía tiene un arma informática para luchar contra ella: un algoritmo que asigna puntuaciones en base a arrestos, disparos, afiliaciones con miembros de pandillas y una serie de variables para predecir quién es más probable que empuñe un arma para disparar a otra persona (o reciba un disparo).
"Sabemos que tenemos mucha violencia en Chicago, pero también sabemos que un pequeño segmento de la población es responsable de esto", asegura el superintendente de la Policía de Chicago, Eddie Johnson.
Y gracias al Big Data (análisis de grandes conjuntos de datos), las autoridades de esta urbe en el estado de Illinois esperan resolver un problema que no ha dejado de crecer de manera preocupante en los últimos meses.
"Pre-crimen"
2016 fue un año bañado en sangre para Chicago. Las cifras divulgadas por la policía local indican que fue el más violento en dos décadas y que superó los niveles de violencia de Nueva York y Los Ángeles juntas, las dos ciudades más pobladas de Estados Unidos.
"Chicago tiene una tasa récord de homicidios. En 2016 hubo 4331 víctimas de tiroteos y 762 asesinatos. Si el alcalde no puede hacer algo, ¡debería pedir ayuda federal!", dijo el presidente Donald Trump en enero de 2017, poco antes de su toma de posesión. Semanas después, repitió el mensaje aportando nuevas cifras.
"Si Chicago no resuelve la horrible 'carnicería' que está ocurriendo, 228 tiroteos con 42 muertos (un 24 % más que en 2016), enviaré a los federales", amenazó Trump en un mensaje en su cuenta de Twitter.
Gracias a su nuevo algoritmo computacional, las autoridades de Chicago se han propuesto reducir el número de muertes al más puro estilo de la película de ciencia ficción "Minority Report": vaticinando la comisión de un crimen y arrestando al potencial autor antes de que cometa el delito.
El sistema informático permite crear una lista extrayendo datos de los registros de la policía. Una vez que la nómina es generada, los agentes pueden visitar a los individuos con los puntajes más altos.
Lista estratégica de sujetos
Shaquon Thomas estaba en esa lista. Fue arrestado por primera vez a los 13 años. Después hubo más detenciones y fotos policiales. A los 18, Thomas, conocido como el rapero Young Pappy, resultó herido en un tiroteo, dijo la policía.
Y en mayo, a los 19 años, murió de un disparo en lo que las autoridades describieron como una pelea de pandillas. Tenía más de 500 puntos, lo cual le situaba en la parte más alta de lo que definen como la "Lista Estratégica de Sujetos", generada por el algoritmo.
Las autoridades dicen que están advirtiendo a quienes tienen más puntaje de que están bajo intenso escrutinio y que ofrecen ayuda de servicios sociales a quienes quieran alejarse de la violencia. "Estamos apuntando a los individuos correctos", dijo Johnson.
El programa ya lleva tres años en funcionamiento y se está haciendo una cuarta revisión del algoritmo que genera la lista, según se lee en un reporte del diario estadounidense New York Times.
De las 2,7 millones de personas que viven en Chicago, unas 1400 de ellas son responsables de los crímenes que se comenten, dice Johnson. Y todas ellas pertenecen a la lista de sospechosos del algoritmo.
"Es un sistema que observa variables como el historial de arrestos, por ejemplo, si has sido detenido por un delito con armas o si te han disparado. Y usa algunos datos de víctimas criminales", le cuenta a la BBC Jonathan Lewin, director adjunto del Departamento de Policía de Chicago.
Lewin afirma que el algoritmo también tiene en cuenta la edad en el momento del arresto y que utiliza todas esas variables, "nada sobre la raza, el género o la etnia" para determinar el puesto del implicado en la lista.
"Medidas objetivas"
"Esta es la primera vez que se está usando este nivel de integración de tecnología, no sólo aquí, sino en todo el país", dice Lewin. "Estamos rodeados de sensores, cámaras y equipos de detección de disparos".
Con ayuda del aprendizaje automático, los sistemas tecnológicos de la policía de Chicago identifican tendencias y patrones para predecir eventos, incluidos los posibles crímenes y los lugares en que ocurrirán.
La policía incautó 8300 armas ilegales en 2016, un 20% más que el año anterior. Pero la Lista Estratégica de Sujetos es lo que más controversia ha generado hasta el momento. Lewin asegura que usa "medidas objetivas" para determinar las variables de cada persona.
"Nos puede decir si una persona tiene 500 veces más probabilidad que otra de estar envuelta en un tiroteo, ya sea como víctima o como atacante", sostiene Lewin. Y con esa lista la policía lleva a cabo sus estrategias de intervención.
"No está diseñado para ser una herramienta de castigo, sino para gestionar lo que llamamos un "proceso de notificaciones personalizadas"que consiste, básicamente, en visitar la casa de estos sujetos.
En esa visita, de acuerdo con el comandante, la policía les dice lo siguiente:
"Has llamado nuestra atención por estas razones y queremos sacarte del ciclo de violencia; podemos ofrecerte servicios sociales (como formación profesional o servicios de cuidado de niños). "Pero si no dejas el círculo de violencia y sigues cometiendo crímenes, serás objeto de sanciones penales más severas".
Las críticas
Edwin C. Yohnka, director de comunicaciones y política estatal de a Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés) en Illinois, es uno de los críticos del método policial.
Los críticos de este sistema no confían en que sea la mejor manera de determinar si alguien es culpable de un delito. "La policía aparece, a menudo un buen número de agentes, junto a varios trabajadores sociales", le contó Yohnka a la BBC. "Pero lo que no dicen es qué servicios sociales ofrecen, si es sólo para ellos o para toda su familia... ¿cuál es el nivel de efectividad una vez que eso ocurre?".
"Si hay dos personas arrestadas por posesión de drogas, una blanca y otra afroestadounidense, la segunda tiene muchas más probabilidades de ser acusada, o incluso ser declarada culpable. Vemos, en esencia, un tipo de condenado siempre culpable que sale de esta lista".
"Nos preocupa", le dijo a The New York Times Karen Sheley, directora del Proyecto de Prácticas Policiales de ACLU en Illinois. "Hay una base de datos de ciudadanos construida sobre factores desconocidos y no hay forma de que las personas puedan evitar estar en esa lista. Creemos que es peligroso señalar a alguien en base a información policial secreta".
Qué es un algoritmo
Los algoritmos son códigos necesarios para ordenarle a una computadora o máquina que haga algo. Se trata de una lista de pasos por seguir para resolver un problema. Es crucial que los pasos estén bien definidos y se encuentren en el orden correcto.
Pensá, por ejemplo, en lo que harías al vestirte por la mañana. ¿Qué pasaría si te colocaras la campera antes que la camisa? Sería raro, ¿no? Pues lo mismo se aplica, aunque con un nivel de complejidad muchísimo mayor, al funcionamiento de la tecnología omnipresente en nuestra vida cotidiana (desde los dispositivos móviles hasta las páginas de internet).
Los algoritmos son cruciales para que las máquinas y las redes hagan lo que les pedimos (o interpreten lo que deseamos).
BBC MundoTemas
Conforme a los criterios de
Más leídas de Tecnología
Clave. Los trucos de WhatsApp más simples y prácticos que son fáciles de aplicar
Infancias. Cómo activar el "modo Peter Pan" en WhatsApp
Similares a los Ray-ban de Meta. Samsung tendrá su línea de anteojos inteligentes en 2025
Cuidado. Qué significa quitar la foto de perfil en WhatsApp, según un psicólogo
