Los padres presentan una demanda contra la escuela privada después de un escándalo con imágenes de alumnas desnudas generadas por IA. Cuando la escuela diurna del condado de Lancaster descubrió que un estudiante estaba creando imágenes falsas explícitas de prácticamente todos sus compañeros de clase, fueron objeto de fuertes críticas. C canceló clases, los líderes escolares presionaron para que se rindieran cuentas y algunos renunciaron.
El escándalo comenzó cuando se presentó un informe al sistema de informes anónimos “Safe2Say Something” de la escuela en noviembre de 2023. Según la policía, el director de la escuela Matt Micciche recibió este informe, pero optó por no hacer nada al respecto y permitió que la situación empeorara durante varios meses. . La policía solo fue alertada sobre el estudiante acusado de crear contenido dañino a mediados de 2024 cuando realizaron un arresto. Parte de la investigación implicó confiscar el teléfono del estudiante. Después de que las imágenes explícitas generadas por IA se vincularan con el estudiante, las autoridades confirmaron en agosto que un menor sí jugó un papel.
Renuncias, protestas y demandas siguen al escándalo de falsificación de IA de Lancaster
Las imágenes se volvieron tan inquietantes para los padres en mayo de 2024 que se sorprendieron de que la escuela no hubiera informado del asunto antes, como lo exigen las leyes de denuncia de abuso infantil. Eso provocó amenazas de una demanda contra los funcionarios escolares, quienes presentaron una citación judicial exigiendo que renunciaran en 48 horas o enfrentarían una demanda. Micciche y la presidenta de la junta escolar, Angela Ang-Alhadeff, dimitieron debido a la presión pocos días después.
Las tensiones siguieron siendo altas y las clases se cancelaron el lunes siguiente. Los estudiantes y profesores organizaron una protesta en la escuela, que atiende a unos 600 estudiantes desde preescolar hasta la escuela secundaria, exigiendo medidas más estrictas para mantener seguros a los estudiantes. La escuela se comprometió a apoyar a la comunidad durante este tiempo.
Cuando los administradores escolares dimitieron tras huelgas organizadas, los estudiantes afirmaron estar incómodos. El 8 de noviembre, miles de estudiantes de secundaria se reunieron y corearon algo como “Escúchanos. Reconócenos. Visítenos”. Destacaron la necesidad de una comunicación más clara por parte de los líderes escolares a medida que se desarrollan las crisis. Micciche había respaldado previamente la protesta, diciendo que reconocía que los estudiantes tenían derecho a expresar su enojo por el manejo del incidente por parte de la escuela.
Si bien los líderes escolares han renunciado, todavía tienen la intención de emprender acciones legales contra los líderes escolares, dijo el abogado Matthew Faranda-Diedrich. Lancaster Country Day dijo que había asesorado a los estudiantes afectados y se comprometió a revisar y actualizar los procedimientos de presentación de informes y las políticas de seguridad.
Este escándalo ocurre al mismo tiempo que un debate más amplio sobre cómo responde el marco legal estadounidense a los intentos de explotación infantil a través de la IA. Si bien el incidente de Lancaster es inquietante, se convierte en parte de un patrón de incidentes de contenido explícito generados por IA que involucran a niños. La legislación propuesta recientemente incluye la penalización de la creación y distribución de dichos materiales, con sanciones graves, que incluyen grandes multas y largas penas de prisión por delitos graves.
Pero una nueva ley de Pensilvania que entrará en vigor pronto penalizaría explícitamente la elaboración o difusión de materiales de abuso sexual infantil generados por IA. Mientras tanto, las autoridades están tomando medidas drásticas contra una crisis similar relacionada con los deepfakes en Corea del Sur. Esto incluye un mayor monitoreo de las plataformas de redes sociales y más sanciones por violarlas mientras el país lucha contra una epidemia de pornografía ultrafalsa que ha asustado a las escuelas y comunidades de todo el país.
Los esfuerzos de Estados Unidos en este ámbito palidecen en comparación con los de otros países. Los investigadores del John Jay College of Criminal Justice se encuentran entre los defensores que impulsan responsabilidades legales contra las plataformas digitales que publican contenido deepfake no consensuado y piden medios más sólidos para proteger a quienes corren el riesgo de convertirse en víctimas.
Crédito de imagen: Furkan Demirkaya/Flux AI
La publicación Las protestas estudiantiles estallan después de que un escándalo de falsificaciones de IA sacudiera una escuela privada apareció por primera vez en TechBriefly.
