Los videos racistas, aparentemente generados por la herramienta de creación de video AI de Google, VEO 3, han acumulado millones de visitas en Tiktok, según una investigación reciente realizada por los medios de observación sin fines de lucro Media Media Matters. Estos videos producidos por AI, identificados por la organización, están saturados de estereotipos despectivos, particularmente dirigidos a individuos negros.
Media Matters concluyó que los videos, uno de los cuales obtuvieron 14.2 millones de visitas, se crearon usando Google Veo 3 debido a la marca de agua “VEO” visible que se muestra prominentemente en la esquina de estos clips. Además, algunos usuarios incluyeron explícitamente hashtags, subtítulos o nombres de usuario que hacen referencia a VEO 3 o AI. Cada clip identificado por la organización tenía precisamente ocho segundos de largo o comprendía múltiples segmentos, cada uno no excepto ocho segundos, alineándose perfectamente con el límite de generación de ocho segundos conocido de Veo 3.
Google lanzó VEO 3 en mayo, lo que permite a los usuarios generar videoclips de IA y audio simplemente ingresando un mensaje de texto. El sitio web oficial de Google establece su compromiso de “bloquear las solicitudes y resultados nocivos”. Del mismo modo, las pautas comunitarias de Tiktok prohíben explícitamente el “discurso de odio y el comportamiento de odio”, afirmando que la plataforma “no recomendará contenido que contenga estereotipos negativos sobre una persona o grupo con un atributo protegido”.
En respuesta a los hallazgos, la portavoz de Tiktok, Ariane de Selliers, declaró al borde: “Heleamos proactivamente reglas sólidas contra el habla y el comportamiento odiosos y hemos eliminado las cuentas que identificamos en el informe, muchas de las cuales ya estaban prohibidas antes de la publicación del informe”. El Verge también descubrió algunos de estos videos problemáticos en YouTube, aunque con menos vistas, mientras que con cableado contenido racista de IA racista con cableado ubicado independientemente en Instagram. Los medios de comunicación también encontraron otros videos que contienen contenido antisemita y representaciones racistas de inmigrantes e individuos asiáticos. Google aún no ha proporcionado un comentario sobre el problema.
Source: Videos racistas de IA creados por la superficie Veo 3 de Google
