“Porno fake” en colegios: en medio de una oleada de casos, la Ciudad establece un protocolo con posibles sanciones

La oleada comenzó en el segundo semestre del año, cuando la inteligencia artificial ya se había instalado en las aulas porteñas. En la ciudad, la mayoría de los casos de los que hay conocimiento se dieron en colegios privados, especialmente en los últimos años de secundaria, y tuvieron como principales víctimas a las estudiantes mujeres. La secuencia suele ser la siguiente: con una aplicación de celular que usa IA, un alumno transforma la foto de una compañera en una imagen falsa de su cuerpo desnudo, la envía a través de las redes a otros compañeros y el hecho se vuelve viral. La problemática, que se da en todo el mundo, lleva el nombre de deepfake porno o de porno fake.

Hasta ahora las instituciones educativas porteñas tomaron medidas por su cuenta, aplicando una suerte de protocolo interno para contener a la víctima y sancionar al victimario. Pero a partir de esta semana las escuelas contarán, además, con un lineamiento del Ministerio de Educación de la ciudad. Este reglamento, que entró en vigor ayer mediante una resolución publicada en el Boletín Oficial apunta, según fuentes gubernamentales, a “atacar conductas como el ciberacoso, la difusión no consentida de imágenes y de contenido íntimo, el hackeo de cuentas, el espionaje digital y la publicación de información personal sin autorización”, entre otras.

Las acciones restaurativas y las sanciones no están establecidas en el protocolo; deberán definirlas, según la gravedad del caso, las instituciones educativas donde estudian las víctimas y los victimarios y los órganos intervinientes en cada caso. Sin embargo, detallan fuentes del Ministerio de Educación, “las pautas a seguir son variadas y llegan hasta la separación transitoria del estudiante que hubiera cometido la acción de violencia digital, según corresponda y en función de la gravedad del hecho”.

Según pudo saber LA NACIÓN, las dos fiscalías especializadas en delitos informáticos de la Ciudad recibieron en los últimos meses un aproximado de 10 denuncias de familias cuyas hijas fueron víctimas de deepfake porno. En la gran mayoría de las denuncias, afirmaron, se pudo comprobar que los generadores del material habían sido adolescentes. Sin embargo, actualmente la mayoría de los casos de este tipo no son denunciados por las familias, sino que son tratados dentro de la comunidad educativa.

El protocolo

Fuentes del gobierno porteño afirmaron que el principal objetivo del protocolo es brindar a las escuelas el soporte del Ministerio de Educación en casos de ciberacoso y otorgarles, a su vez, un marco regulatorio y una hoja de ruta para accionar en estos casos.

“Una vez que se toma conocimiento de un hecho sobre algún supuesto casos de violencia digital entre pares, el protocolo sugiere implementar la ley 223 y su reglamentación, que establece el Sistema Escolar de Convivencia, y entrevistar a los niños o adolescentes involucrados para comenzar el proceso de abordaje y reparación”, se lee en los lineamientos principales.

El protocolo incluye además una serie de vías de acción, entre las que se incluye la entrevista a las familias de los estudiantes involucrados para informarlas de la situación y de las acciones que realizará la institución educativa. También añade el trabajo desde los espacios de participación “haciendo hincapié en el buen uso de las redes sociales e internet, en el respeto a la intimidad y en la noción de lo público y lo privado”.

En cuanto a la intervención de distintos órganos en cada caso particular de ciberacoso, el protocolo establece que se deberá dar aviso al supervisor del establecimiento, quién deberá reportar al Ministerio Público Tutelar para que, en caso que corresponda, “tome la intervención de su competencia en el marco del Programa de Convivencia Respetuosa Entre Pares”. También fija que en casos de ciberacoso se deberá dar intervención a los equipos técnicos de acuerdo a cada nivel, modalidad y tipo de gestión y que, si se presume o se verifica que “hubo una situación de vulneración de derechos”, se debe dar intervención al Consejo de Derechos de las Niños, Niñas y Adolescentes.

“Las fotos eran muy realistas”

LA NACIÓN publicó hace dos semanas un artículo en profundidad sobre la problemática cada vez más recurrente del deepfake porno en las escuelas. En la nota se incluyó varios casos de este tipo, incluso uno en que, pese a que los directivos de la institución conocían la situación, no habían alertado a los padres de los involucrados sobre el tema.

Este último ocurrió recientemente en un colegio privado de la ciudad, donde un estudiante de 13 años había producido fotos ficticias de un grupo de chicas de otra clase, a las que había desnudado con inteligencia artificial.

Una de las madres de las víctimas pudo acceder, a través de otra, a las fotos trucadas de su hija. “Me imaginaba una falsificación burda, digna de alguien sin experiencia en estas cosas. Pero eran muy realistas”, contó la mujer a LA NACIÓN.

Conforme a los criterios de

Conocé más