Un estudiante secundario fue denunciado en la Justicia por editar videos porno con IA y ponerle la cara de sus compañeras

CÓRDOBA.– Por primera vez en Córdoba, la Justicia recibió una denuncia porque un estudiante secundario editó imágenes pornográficas con inteligencia artificial (IA) y le puso la cara de sus compañeras a los cuerpos de los adultos. La presentación la hizo el padre de una de las adolescentes, ya que los videos fueron divulgados en sitios de contenido pornográfico.

La denuncia fue realizada ante el fiscal Juan Ávila Echenique, quien investiga delitos contra la integridad sexual. Sin embargo, se encontró con limitaciones legales debido a que las víctimas son menores. Por eso derivó el caso a una unidad judicial contravencional de género, ya que desde el ámbito penal no se puede tomar ninguna acción.

La presentación la realizó el padre de una de las chicas cuyo rostro fue incluido en el material pornográfico que se divulgó; las “víctimas” serían varias, todas compañeras en el curso de un colegio secundario de Córdoba. El nombre de la institución no trascendió.

La difusión del caso reactualizó el debate sobre si debe haber regulaciones o no en el uso de la IA. A finales del año pasado, la directora general de la Unesco Audrey Azoulay planteó que la herramienta puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios. “No puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos”, dijo.

El organismo, por ejemplo, propicia que la IA no sea utilizada por menores de 13 años. Quien habría realizado los videos en Córdoba es menor de 18 años, pero mayor de 13, según indicaron a LA NACION fuentes judiciales. “No debe integrarse en la educación sin el compromiso del público y sin garantías y reglas gubernamentales sólidas”, añadió Azoulay.

¿Es posible regularlo?

Los programas de IA accesibles al público en general se han multiplicado desde finales de 2022. Hace unas semanas el diputado nacional Juan Brügge (Córdoba; bloque Hacemos Coalición Federal) presentó un proyecto de ley para regular el empleo de la IA de manera “responsable”. El texto indica que debe generarse un marco jurídico con base en el desarrollo, introducción en el mercado y utilización de sistemas de IA en el país; la “promoción de la aplicación ética” y “la adopción de una segura y confiable que proteja la salud, seguridad y los derechos fundamentales de las personas, frente a los efectos perjudiciales que puedan derivarse de su utilización”.

En la iniciativa se establecen algunos principios “rectores” entre los que se cuenta la transparencia. En ese punto advierte que los “riesgos posibles” del empleo de la IA deben ser comunicados “en forma clara y comprensible a la población en general y a los usuarios en cada caso”. Añade que se “debe garantizar que quien interactúe con un sistema tecnológico de IA “sea consciente de dicha circunstancia; se podrá acreditar el cumplimiento con una identificación clara visual y/o auditiva, que informe al usuario, con la advertencia que cierto contenido, registro o tecnología contiene elementos que han sido creados mediante inteligencia artificial generativa o tecnologías similares en su totalidad o en parte”.

También menciona en ese artículo propuesto el principio de trazabilidad (“se debe garantizar que se conozcan los resultados del uso de algoritmos de inteligencia artificial, de forma tal que se pueda conocer el fundamento de una acción, predicción, recomendación o decisión”); privacidad y seguridad (“se protegerá la privacidad de los datos”) y fiabilidad y adecuada reproducibilidad “para que la realidad captada por la I.A., en todos sus aspectos, reproducción audiovisual, audios, fotografías, etc., no sean alterados, en especial cuando son utilizados como evidencias digitales en procesos judiciales”.

Conforme a los criterios de

Conocé más

La trastienda de la visita. Milei agradeció a los opositores que “acompañaron las reformas”, pero no mencionó a Llaryora

¿Una asesina serial? Ya tiene fecha el juicio a la enfermera acusada de matar a seis bebés

Fechas definidas. Cuándo empiezan las clases en Córdoba el año que viene