La irrupción masiva de la inteligencia artificial generativa abrió una puerta compleja hacia nuevas formas de violencia digital que operan al margen de los marcos normativos tradicionales. El episodio registrado en un colegio secundario, donde alumnos utilizaron fotografías de sus compañeras para adulterarlas y convertirlas en imágenes explícitas distribuidas luego en plataformas de contenido para adultos, pone de relieve una problemática que trasciende las fronteras de una institución educativa específica. Con la imputación de dos adolescentes y una investigación en curso bajo la órbita de la justicia juvenil, el caso vuelve a colocar en el centro de la escena un interrogante crucial acerca de los límites éticos y legales frente a la manipulación digital de la identidad.

A diferencia de la difusión no consentida de material íntimo real, donde existe una fotografía previa que vulnera la privacidad, el fenómeno de los porn deepfakes opera sobre la invención absoluta. Una imagen cotidiana tomada de una red social, una postal familiar o una simple selfie escolar alcanzan para que algoritmos sofisticados confeccionuen representaciones explícitas sin el consentimiento ni la participación de la persona afectada. La víctima no produjo el contenido, nunca se expuso de esa manera y, sin embargo, debe cargar con las consecuencias tangibles de una agresión digital que genera hostigamiento, daño reputacional, pérdida de control sobre la propia imagen y profundas secuelas psicológicas. Este escenario transforma radicalmente la naturaleza del hostigamiento, obligando a repensar las herramientas con las que cuenta el sistema de justicia para perseguir delitos que nacen de la nada misma.

El debate legislativo entre la protección integral y la respuesta penal

En el plano normativo, el país dio pasos significativos en los últimos años con la incorporación de la violencia digital o telemática a través de la legislación vigente, reconociendo que los ataques a través de tecnologías de la información y la comunicación pueden manifestarse tanto sobre material real como editado. Sin embargo, persiste una diferencia sustancial entre reconocer administrativamente una conducta como violencia y contar con figuras penales autónomas tipificadas en el Código Penal. Mientras las medidas de protección permiten ordenar el cese de hostigamientos y la remoción inmediata de contenidos en plataformas digitales mediante mandatos judiciales, la discusión en torno a la tipificación específica de los montajes pornográficos impulsados por inteligencia artificial sigue su curso en el Congreso Nacional con diversos proyectos orientados a cerrar las lagunas legales.

La dimensión del problema adquiere además ribetes internacionales que complican la persecución efectiva de los infractores. Recientes episodios denunciados en el ámbito del Parlamento Europeo y antecedentes judiciales en distintas jurisdicciones demuestran que la facilidad para producir y distribuir material manipulado a través de fronteras digitales desafía la capacidad de respuesta de los estados. La falta de regulación estricta sobre los desarrolladores de software y la escasa responsabilidad atribuida inicialmente a las grandes plataformas tecnológicas configuran un ecosistema propicio para la impunidad. La urgencia radica en articular una respuesta conjunta que combine alfabetización digital temprana en las escuelas, controles más estrictos en el ecosistema digital y una tipificación penal precisa que castigue de manera ejemplar el uso de la tecnología como herramienta de hostigamiento y vulneración de los derechos fundamentales.