Meta está desarrollando una herramienta de detección basada en web diseñada para identificar imágenes y videos creados con su modelo de generación de imágenes, conocido como Muse Image. Esta herramienta verifica la presencia de marcas de agua invisibles denominadas Sello de contenido que están incrustadas en el contenido generado.
Según Meta, el sello de contenido permanece intacto independientemente de la manipulación de la imagen, incluido el recorte, la compresión, el cambio de tamaño o las capturas de pantalla. La compañía afirmó que la herramienta proporciona un mecanismo inicial para que los usuarios determinen si una imagen lleva una marca de agua Content Seal.
El método de marca de agua utilizado por Muse Image es propietario y difiere de las versiones anteriores de código abierto publicadas por Meta. La versión actual de los modelos de IA de Meta no emplea marcas de agua visibles, a diferencia de los modelos anteriores que incluían logotipos en las imágenes.
Actualmente, las capacidades de detección se limitan a imágenes creadas o editadas con Muse Image. Meta planea extender las marcas de agua Content Seal a videos generados y editados por IA en el futuro. La compañía también está desarrollando un modelo de generación de vídeo independiente llamado Muse Video, que se espera que se lance pronto.
Las pruebas de la herramienta de detección confirmaron su capacidad para identificar marcas de agua tanto en imágenes editadas como en aquellas generadas íntegramente por IA. Una detección positiva indica que la imagen se produjo utilizando la aplicación Meta AI o meta.ai, mientras que un resultado negativo sugiere que es poco probable que se haya procesado con Meta AI. Sin embargo, la función de detección no está integrada en la aplicación Meta AI; El asistente de la aplicación confirmó que no puede determinar si Meta AI creó una imagen específica.
Meta se ha enfrentado a un escrutinio por la aplicación inconsistente de marcas de agua digitales para contenido generado por IA. La Junta de Supervisión expresó su preocupación a principios de año sobre las prácticas de la empresa en el etiquetado del material producido por IA. Content Seal es incompatible con métodos de marca de agua establecidos como SynthID y C2PA Content Credentials.
Durante pruebas recientes, la herramienta de detección no pudo identificar imágenes creadas o editadas con versiones anteriores de los modelos de IA de Meta. Además, los usuarios de la herramienta encuentran límites de tasa y reciben alertas una vez que alcanzan su umbral diario para verificaciones de identificación.
