Europa estudia prohibir la Inteligencia Artificial para la vigilancia masiva y supervisar las tecnologías de alto riesgo
- 3 minutos de lectura'
La Unión Europea (UE) prepara un borrador para regular los usos permitidos de los mecanismos de Inteligencia Artificial (IA), y en él establece prohibiciones para usos como los sistemas de vigilancia masiva y las tecnologías que valoran a las personas de forma predictiva, mientras que los sistemas de alto riesgo pasarán a tener una mayor supervisión.
Así se extrae de un borrador elaborado por organismos comunitarios europeos al que ha tenido acceso The Verge, filtrado en Internet, pero que se espera que sea anunciado oficialmente la próxima semana.
La nueva regulación contempla que los Estados miembros de la UE deberán constituir un consejo asesor común, integrado por expertos y dedicado a validar los sistemas de IA considerados de alto riesgo.
El borrador también establece que las compañías que comercialicen sistemas de IA prohibidos en la UE, aunque tengan su base en otras partes del mundo, podrán enfrentarse a multas que podrían llegar hasta el 4 por ciento de sus ingresos globales, como ya sucede con los infractores del Reglamento General de Protección de Datos (RGPD).
Tipos de inteligencia artificial prohibidos o regulados
Entre los tipos de sistemas de IA prohibidos por la UE se incluirán los de “vigilancia indiscriminada” de forma masiva, tanto aquellos que rastrean personas en entornos físicos como los que utilizan o extraen datos agregados para otros sistemas.
La Unión también estudia vetar las tecnologías de IA que hacen valoraciones sociales de las personas, y que por ejemplo realizan estimaciones de su fiabilidad en función de su comportamiento o que predicen su personalidad.
Asimismo, la UE establece en su borrador varios tipos de IA que pasan a estar sujetos a una mayor regulación, como es el caso de los sistemas considerados de “alto riesgo”, entre los que se enmarcan todos ellos que puedan suponer un riesgo para la seguridad física, como los sistemas de conducción automática, o los que pueden afectar a la vida de las personas, como la IA para contratar empleados, tomar decisiones judiciales o conceder créditos financieros.
En estos casos, los sistemas tendrán que ser revisados y aprobados por los consejos asesores de expertos en IA antes de entrar en funcionamiento, asegurando que dispongan de supervisión humana y que los sistemas no se hayan entrenado con datos sesgados, según contempla el borrador.
De estar tarea se encargará un nuevo organismo, denominado Consejo Europeo de Inteligencia Artificial, que se espera que esté integrado por expertos en IA de todos los países miembros de la UE, que decidirán qué sistemas se consideran de alto riesgo y posibles cambios de regulación.
El borrador de la UE menciona también a los sistemas de reconocimiento facial en espacios públicos, para los que pasará a exigirse una autorización especial, mientras que también se requerirá que los sistemas de IA se identifiquen cuando las personas interactúan con ellos, salvos en los casos donde resulte “obvio por el contexto de uso”.
Europa Press
Más leídas de Tecnología
Similares a los Ray-ban de Meta. Samsung tendrá su línea de anteojos inteligentes en 2025
Clave. Los trucos de WhatsApp más simples y prácticos que son fáciles de aplicar
Auto clásico. Cómo se vería el histórico Dodge GTX modelo 2025, según la IA
Cuidado. Qué significa quitar la foto de perfil en WhatsApp, según un psicólogo
