Según los informes, las imágenes generadas por IA de Billie Eilish fueron el foco de la “pornografía falsa” en TikTok en un video que recibió millones de visitas.
En su página For You, el feed principal de la red social, los usuarios encontraron un video con el rostro de 20 años colocado sobre cuerpos sexualmente exagerados. Antes de que TikTok prohibiera el clip por violar las pautas de la comunidad sobre acoso sexual, la presentación de diapositivas de la galería de fotos supuestamente tenía 11 millones de espectadores.
El video que afirmaba usar IA autogenerada para recrear una versión del cantante de Your Power supuestamente se mostró en las pantallas de los teléfonos durante cuatro días, a pesar de que la aplicación prohibía todo el contenido abiertamente sexualizado.
¿Ha ido demasiado lejos la tecnología de IA con los deepfakes generados por IA de Billie Eilish?
A pesar de que las propias políticas de TikTok establecen que el contenido abiertamente sexualizado está prohibido, el video se mostró en la pestaña Para ti de la aplicación.
Las aplicaciones como Lensa o Midjourney han ganado mucha tracción en las últimas semanas y, como resultado, las personas digitales basadas en sus propias imágenes están en todo Instagram, Twitter y TikTok. Pero hay muchos informes que dicen que Lensa AI está en el centro de un acalorado debate sobre su contenido NSFW, ya que la plataforma genera imágenes de “desnudos” femeninos sin ningún consentimiento.
Sin embargo, muchas mujeres afirman que al quitarles la ropa o mostrarles cuerpos sexualizados, las aplicaciones están apoyando la misoginia.
Para ayudar a las víctimas de abuso de género tanto en línea como fuera de línea, Hera Hussain, creadora y directora ejecutiva de Chayn, dijo:
“El algoritmo de TikTok no está configurado para discernir qué tipo de contenido genera participación y este es un problema crítico. No debería recomendar estos videos a los feeds de sus usuarios. No es un meme inofensivo. No es un fotograma de los propios videos de la cantante. Es una imagen hipersexualizada manipulada por IA”.
– Hera Hussein
Es confuso cómo el algoritmo de TikTok admite contenido NSFW
Si usa alguna plataforma de redes sociales, debe saber que las fotos generadas por IA se han vuelto virales recientemente en grandes plataformas como TikTok, que utilizan millones de personas de todas las edades. Es realmente confuso que el algoritmo TikTok recomiende a los usuarios contenido como la pornografía deepfake generada por IA de Billie Eilish. Desafortunadamente, el contenido estuvo en la plataforma durante días y recibió millones de visitas antes de que fuera eliminado.
Un portavoz de TikTok dijo sobre el tema:
“Este contenido viola nuestros Lineamientos de la comunidad, que establece claramente que no permitimos contenido que altere o transforme una imagen de otra persona para retratar o implicar sugestión sexual”.
– Portavoz de TikTok
La reacción a las fotos generadas por IA está en auge
Se habla mucho en las plataformas de redes sociales sobre los daños de las aplicaciones de IA que volvieron a surgir con el deepfake generado por IA de Billie Eilish después de que la popular aplicación Lensa AI retratara previamente a las mujeres como demasiado sexuales y las acusara de robar las obras de algunos artistas. . Hay muchos tweets sobre el tema en Twitter como @_CatherineAllenel tuit de.
¿Por qué esta aplicación de retratos de IA está tan ansiosa por quitarme la ropa?
Con Lensa, carga 20 selfies y genera docenas de retratos artísticos únicos de usted. Estaba completamente vestido en todas las fotos que subí (¡obvio!) pero algunas fotos que generó de mí eran desnudos.
pic.twitter.com/rwOvPmrpFd
— Catalina Allen (@_CatherineAllen) 10 de diciembre de 2022
Recientemente se llevó a cabo una protesta contra las imágenes generadas por IA en ArtStation, que es una plataforma dedicada a los artistas digitales. Los artistas comenzaron a rebelarse contra el arte de la IA y dijeron mensajes de “No a las imágenes generadas por IA” en las fotos que subieron a la plataforma.
El uso correcto de las tecnologías de IA es definitivamente un elemento muy importante para nosotros. La IA, que nos ha estado ayudando en muchos puntos de nuestras vidas durante años, lamentablemente se ha convertido en el centro de muchas discusiones y se ha vuelto viral en los últimos días. Si bien la mayoría de las tecnologías de IA siguen el protocolo de autoaprendizaje, el lanzamiento público de aplicaciones quizás esté haciendo retroceder a la IA, especialmente en cuestiones éticas, en lugar de apoyar su desarrollo. Si nos fijamos en el modelo creado por ChatGPT, quizás no se utilice en los temas actuales debido a las reservas de OpenAI sobre este tema.
Source: TikTok promocionó a Billie Eilish IA generó pornografía falsa
