YouTube anunció una expansión de sus herramientas de detección de imágenes, permitiendo a las personas en riesgo de suplantación subir imágenes faciales para verificarlas contra posibles impostores y deepfakes.
Esta mejora tiene como objetivo brindar protección adicional contra la tergiversación y el uso indebido de imágenes. Según The Hollywood Reporter, los actores, deportistas, creadores y músicos, independientemente del estado de su canal de YouTube, pueden registrarse para identificar y solicitar la eliminación de deepfakes.
YouTube ha estado desarrollando estas herramientas desde septiembre de 2024, utilizando escaneos faciales e identificaciones gubernamentales para verificar las cargas en la plataforma. Los usuarios pueden recibir alertas sobre imágenes similares, lo que les permite determinar si otras personas están utilizando sus imágenes.
Anteriormente, la detección de imágenes de YouTube se limitaba a creadores seleccionados, funcionarios gubernamentales, periodistas y candidatos políticos. Ahora, la herramienta está disponible para personas con mayor riesgo de sufrir daños en sus medios de vida debido al uso indebido de la tecnología.
La proliferación de deepfakes generados por IA presenta una creciente preocupación social que afecta a muchas personas. Han surgido casos de tendencias deepfake, incluidas imágenes y vídeos virales que muestran a personas reales, a menudo con fines de entretenimiento.
Si bien YouTube permitirá ciertas representaciones benignas siempre que no violen los derechos de los usuarios, el proceso ampliado ayuda a los usuarios a monitorear y solicitar la eliminación de deepfakes dañinos que amenazan sus intereses personales o comerciales.
YouTube reconoció que se espera que los deepfakes planteen un problema mayor con el tiempo. La empresa afirmó que la evolución de las herramientas de inteligencia artificial generará nuevos desafíos para regular las representaciones falsas y las malas interpretaciones.
Esta ampliación del acceso a herramientas de detección de imágenes representa un importante paso adelante, que permite a los creadores abordar posibles tergiversaciones de forma proactiva. YouTube enfatizó la importancia de tomar medidas tempranas para adaptarse a estas amenazas emergentes.
