Agencia El Universal
Una madre y su hija de 14 años están abogando por una mejor protección para las víctimas después de que circularan en una escuela secundaria de Nueva Jersey imágenes de desnudos de la adolescente y otras compañeras de clase generadas por Inteligencia Artificial (AI).
Mientras tanto, al otro lado del país, los funcionarios están investigando un incidente que involucra a un adolescente que supuestamente usó inteligencia artificial para crear y distribuir imágenes similares de otros estudiantes (también chicas adolescentes) que asisten a una escuela secundaria en los suburbios de Seattle, Washington.
Los inquietantes casos han puesto de relieve una vez más el material explícito generado por IA que daña abrumadoramente a mujeres y niños y está proliferando en línea a un ritmo sin precedentes.
Según un análisis realizado por la investigadora independiente Genevieve Oh que se compartió con Associated Press, este año se publicaron en línea más de 143 mil nuevos videos deepfake, una cifra que supera a todos los demás años combinados.
Desesperadas por encontrar soluciones, las familias afectadas están presionando a los legisladores para que implementen salvaguardias sólidas para las víctimas cuyas imágenes son manipuladas utilizando nuevos modelos de inteligencia artificial o la gran cantidad de aplicaciones y sitios web que anuncian abiertamente sus servicios. Los defensores y algunos expertos legales también están pidiendo una regulación federal que pueda brindar protecciones uniformes en todo el país y enviar un mensaje contundente a los perpetradores actuales y potenciales.
El problema con los deepfakes no es nuevo, pero los expertos dicen que está empeorando a medida que la tecnología para producirlos se vuelve más disponible y más fácil de usar. Los investigadores han estado haciendo sonar la alarma este año sobre la explosión de material de abuso sexual infantil generado por IA utilizando representaciones de víctimas reales o personajes virtuales. En junio, el FBI advirtió que seguía recibiendo informes de víctimas, tanto menores como adultos, cuyas fotos o videos se utilizaron para crear contenido explícito que se compartió en línea.
Varios estados han aprobado sus propias leyes a lo largo de los años para tratar de combatir el problema, pero su alcance varía. Texas, Minnesota y Nueva York aprobaron leyes este año que penalizan la pornografía deepfake no consensuada, uniéndose a Virginia, Georgia y Hawái, que ya tenían leyes vigentes. Algunos estados, como California e Illinois, sólo han dado a las víctimas la posibilidad de demandar a los perpetradores por daños y perjuicios en un tribunal civil, lo que también permiten Nueva York y Minnesota.
Algunos otros estados están considerando su propia legislación, incluida Nueva Jersey, donde actualmente se está preparando un proyecto de ley para prohibir la pornografía deepfake e imponer sanciones (ya sea pena de cárcel, una multa o ambas) a quienes la difundan.
El evento de Westfield tuvo lugar este verano y se informó a la escuela secundaria el 20 de octubre, dijo la portavoz de Westfield High School, Mary Ann McGann, en un comunicado. McGann no proporcionó detalles sobre cómo se difundieron las imágenes generadas por IA, pero Mani, la madre de una de las niñas, dijo que recibió una llamada de la escuela informándole que sus fotografías desnudas fueron creadas usando los rostros de algunas estudiantes y luego circularon entre un grupo de amigos en la aplicación de redes sociales Snapchat.
La escuela no ha confirmado ninguna acción disciplinaria, citando la confidencialidad en asuntos que involucran a los estudiantes. La policía de Westfield y la oficina del fiscal del condado de Union, quienes fueron notificadas, no respondieron a las solicitudes de comentarios.
No han trascendido detalles sobre el incidente en el estado de Washington, que ocurrió en octubre y está siendo investigado por la policía. Paula Schwan, jefa del Departamento de Policía de Issaquah, dijo que obtuvieron múltiples órdenes de registro y señaló que la información que tienen podría estar “sujeta a cambios” a medida que continúa la investigación. Cuando se le contactó para hacer comentarios, el Distrito Escolar de Issaquah dijo que no podía discutir los detalles debido a la investigación, pero declaró que cualquier forma de intimidación, acoso o maltrato entre los estudiantes es “completamente inaceptable”.
La mejor solución, dijo Franks, vendría de una ley federal que pueda brindar protecciones consistentes en todo el país y penalizar a las organizaciones dudosas que se benefician de productos y aplicaciones que permiten fácilmente a cualquiera realizar deepfakes. Dijo que eso también podría enviar una fuerte señal a los menores que podrían crear imágenes de otros niños de manera impulsiva.