1
Justicia e Inteligencia Artificial: avances y desafíos éticos
El uso de la inteligencia artificial (IA) avanza a una velocidad asombrosa y ya se ha consolidado como una herramienta clave en nuestra vida diaria, incluyendo los tribunales de justicia, donde promete mayor celeridad y eficiencia. No obstante, su adopción implica desafíos éticos y riesgos que demandan un uso consciente y responsable. Por este motivo, la Cámara Federal de Casación Penal inició un ciclo de tres jornadas de capacitación dedicadas a analizar el impacto y las aplicaciones de la Inteligencia Artificial en el ámbito judicial, con una convocatoria que superó los 400 inscriptos de todo el país.
El evento, organizado por quien suscribe y coordinado por Laura Kvitko, secretaria de Cámara, contó con la participación como expositores del doctor Daniel Petrone, vicepresidente de la Cámara Federal de Casación Penal; del también firmante Juan Manuel Garay, prosecretario de Cámara; y Hernán Elman, director del Centro Digital de Documentación Judicial del Consejo de la Magistratura de la Nación, quienes abordaron las oportunidades y desafíos que plantea la IA en el sistema de justicia.
La IA es útil para tareas administrativas, como analizar datos o buscar precedentes, pero no puede reemplazar el juicio humano. La justicia requiere una deliberación profundamente humana que valore derechos, contextos y principios, más allá de cálculos mecánicos. Esto es así, porque el juicio humano es indispensable en la justicia para garantizar imparcialidad, equidad y derechos fundamentales, siendo un acto de interpretación y empatía, no un cálculo matemático.
Los sesgos y las “alucinaciones” en los sistemas de IA son una preocupación vigente. Los sesgos parten de que la IA aprende de datos históricos, y estos pueden reflejar desigualdades o prejuicios sociales. Por su parte, las “alucinaciones” de la IA consisten en respuestas incorrectas o ficticias generadas por modelos como ChatGPT que parecen plausibles, pero carecen de sustento real.
Estas limitaciones demuestran que, si bien estas herramientas, como dijimos, pueden ser útiles para agilizar tareas, no comprenden contextos legales específicos ni los pormenores de cada caso en particular. Cuando los abogados o jueces delegan sus tareas exclusivamente en estas tecnologías, existe el riesgo de que las decisiones se basen en información incompleta, errónea o descontextualizada.
En España, el reciente fallo del Tribunal Superior de Justicia de Navarra -del 4/9/24- sobre el uso de ChatGPT para redactar una querella, es un ejemplo claro -entre muchos otros casos- de cómo los algoritmos pueden generar errores contextuales por falta de entendimiento del marco normativo. En este caso, la herramienta incluyó referencias al Código Penal colombiano en lugar del español. Aunque el tribunal optó por no sancionar al abogado, consideró el hecho como un llamado de atención sobre el uso no supervisado de estas herramientas. Este es un claro ejemplo de los graves errores en los que se puede incurrir en la toma de decisiones sustantivas.
Para evitar estos problemas, la IA debe ser pensada como una herramienta de apoyo y no un reemplazo del juicio humano. Es clave capacitar a los operadores del derecho y auditar regularmente los algoritmos para asegurar su uso ético y legal. La IA puede ser una aliada poderosa para mejorar la eficiencia del sistema, pero su implementación debe realizarse con cautela y supervisión.
La incorporación de la IA en los tribunales tiene el potencial de optimizar el funcionamiento de la justicia, pero nunca debe reemplazar el trabajo humano. Es crucial avanzar con cautela, con sistemas auditables, transparentes y bajo la supervisión de expertos, con límites éticos y legales claramente definidos.
La justicia, en su esencia, debe ser obra de personas que valoren la dignidad humana y protejan los derechos fundamentales. Por ello, integrar la IA en el ámbito judicial exige innovación, pero con atención sobre sus posibles consecuencias éticas y sociales.
Borinsky, presidente y juez de la Cámara Federal de Casación Penal, doctor y posdoctor en Derecho Penal, vicepresidente de la Comisión de Reforma del Código Penal.
Garay, prosecretario de Cámara de la CFCP, Magíster en Derecho Penal. Doctorando en Derecho -UP. Asesor del proyecto de reforma del Código Penal.
Conforme a los criterios de
