La Unión Europea regula el uso de la inteligencia artificial

Sin prisa pero sin pausa, la Unión Europea alcanzó un acuerdo de indudable relevancia para la regulación de la inteligencia artificial (IA), una tecnología que, aunque estemos mirando para otro lado, nos está cambiando la vida y regirá nuestro destino y el de nuestros hijos en los próximos años. Entiendo que al lector, a pocos días de un cambio de gobierno, con todo lo que eso implica, junto a la herencia recibida de los que se fueron, le resulta poco atractivo pensar en los efectos que la inteligencia artificial causa en su vida: si apenas llegamos a pagar la matrícula del colegio de nuestros hijos o irnos de vacaciones una semana, ¿podemos pensar en estos efectos? La respuesta es definitivamente negativa aunque, en algún momento, antes de que el tsunami nos pase por encima, deberemos considerarlos: mejor tarde que nunca.

Afortunadamente, algunos países que han logrado solucionar el día a día de sus habitantes, sí prestan atención a estos temas que marcan un antes y un después en la civilización y en la vida de cualquier ciudadano de a pie. A partir de este presupuesto, el 8 de diciembre, el Parlamento Europeo y el Consejo aprobaron un acuerdo provisional sobre una ley para regular el uso de la inteligencia artificial en territorio europeo, esto es, la denominada Artificial Intelligent Act o AI Act.

Si bien el texto acordado deberá ser aceptado formalmente por el Parlamento y el Consejo para convertirse en ley, se descuenta su aprobación definitiva en una próxima reunión, luego de los intensos debates que acompañaron la búsqueda de consenso y equilibrio para establecer reglas de juego a una actividad sin norma, sin marco y sin horizonte conocido. En caso de aprobación formal definitiva, la flamante ley comenzará a regir íntegramente, como Reglamento aplicable a los Estados miembros de la Unión Europea, a fines de 2026 aunque algunas normas se aplicarán en forma inmediata, como aquellas vinculadas a la Oficina de IA, o en algunos meses, como las que se relacionan a la prohibición de determinados sistemas de IA.

La novedosa legislación tiene por objeto garantizar que los derechos fundamentales de los ciudadanos, la democracia, el Estado de Derecho y la sostenibilidad ambiental estén protegidos contra la inteligencia artificial de alto riesgo, estableciendo pautas claras y obligaciones concretas para los jugadores de un negocio que habitan un universo sin ley. El texto legal acordado reconoce un alto grado de complejidad técnica aunque destacaremos, a continuación, algunas cuestiones relevantes para cualquiera de nosotros.

En principio, se prohíben los siguientes sistemas de inteligencia artificial:

*Sistemas de categorización biométrica que utilizan características sensibles de las personas tales como sus creencias religiosas, políticas, de raza u orientación sexual. Eso implica, por ejemplo, que no se autoriza utilizar ningún mecanismo alimentado por IA que discrimine a una persona heterosexual de una homosexual, o a una persona blanca de una negra, para la obtención de un crédito bancario o para la ocupación de un cargo en una empresa.

*Sistemas de vigilancia biométrica que supongan la captación y manipulación no autorizada de imágenes faciales obtenidas en internet o por cualquier medio que tengan por objeto crear bases de datos de reconocimiento facial.

*Sistemas de reconocimiento y tratamiento de emociones en el lugar de trabajo o en instituciones educativas bajo la idea, por ejemplo, de que si la vida nos encuentra tristes o enojados, esa emoción no sea utilizada en nuestra contra, en el ámbito laboral, a la hora de evaluar nuestro rendimiento. (Si no fuera así, pronto no podríamos siquiera llorar tranquilos en un rincón.)

*Sistemas de puntuación social (social scoring) basados en el comportamiento social o las características personales de los individuos. Al respecto, recomiendo al lector revisar uno de los últimos capítulos de la serie inglesa Black Mirror, que ilustra el caso de una joven que no puede acceder a un crédito para adquirir una vivienda porque no era likeada en redes sociales, con buena puntuación: un absoluto y total despropósito.

*Sistemas de manipulación de hábitos o comportamiento humano que pongan en peligro o limiten la libertad de las personas: una llamada de atención a las redes sociales y los buscadores de internet que monetizan hábitos y comportamientos de sus usuarios.

*Sistemas que exploten la vulnerabilidad de las personas, como su edad o su posición/situación económica, bajo la pauta de evitar cualquier tipo de discriminación de IA sistémica.

En relación con los sistemas de inteligencia artificial generativa, en los que se basa, por ejemplo, el glamoroso ChatGPT, todos deberán cumplir con criterios de transparencia especificando, verbigracia, si un texto, una canción o una imagen se generaron mediante la utilización de inteligencia artificial e implican (o no) alguna afectación a los derechos de autor. En otras palabras, la idea es poder distinguir, por ejemplo, si este artículo lo escribió quien firma o un sistema de IA generativa… Veremos hasta dónde llega la transparencia.

La norma establece importantes multas para aquellas compañías locales e internacionales que no la cumplan, que van desde 35 millones de euros o el 7% del volumen de negocios global, hasta 7,5 millones de euros o el 1,5% del volumen de negocios, dependiendo de la infracción y el tamaño de la empresa.

La Unión Europea se consolida, de esta manera, como la pionera en establecer pautas concretas para esta actividad, siguiendo la línea del Reglamento General de Protección de Datos Personales, que comenzó a regir en todo el territorio europeo en 2018 y que ha sido tomado como ley modelo por algunos países de América Latina, como Brasil.

En la Argentina no contamos con ninguna normativa que regule la inteligencia artificial, sin perjuicio de las denominadas “Recomendaciones para una Inteligencia Artificial Fiable”, aprobadas por la Subsecretaría de Tecnologías de la Información de la Jefatura de Gabinete de Ministros (Disposición 2/2023, de fecha 1º de junio de 2023): una guía conceptual sin rigor científico normativo.

Asimismo, en materia de información, privacidad y datos personales, sí contamos con una ley de protección de datos personales del año 2000, que ha quedado vetusta en relación con otras legislaciones avanzadas, como el mencionado Reglamento Europeo o la ley de privacidad del estado de California. Si bien, en 2022, la Agencia de Acceso a la Información Pública confeccionó un proyecto de ley de protección de datos adecuado a los estándares internacionales, el mismo nunca fue tratado por el Congreso Nacional.

Todas estas cuestiones requieren de una debida toma de conciencia por parte de grandes y chicos, como asimismo del compromiso del Estado, de los ámbitos académicos y de las instituciones escolares en el trabajo de educación y concientización en relación con una tecnología que vino para quedarse y que está cambiando y cambiará radicalmente nuestra cultura, la forma de relacionarnos y de vivir.

Abogado y consultor en Derecho Digital, Privacidad y Datos Personales; director del programa “Derecho al olvido y cleaning digital” de la Universidad Austral; profesor de la facultad de Derecho de la UBA

Conforme a los criterios de

Tipo de trabajo:

opinión

Conocé más