El auge de la inteligencia artificial generativa ha traído consigo avances increíbles, pero también consecuencias más oscuras en Internet. Uno de estos problemas es la copia de rostros y cuerpos, a menudo denominada deepfakes. Puede crear fácilmente imágenes de desnudos sintéticos que pueden causar un gran daño a las personas. A las personas que han compartido fotos íntimas sin su consentimiento les ha resultado difícil eliminarlas de Internet. Microsoft ha intervenido con una resolución que puede ofrecer un apoyo muy necesario.
Microsoft ha dado un importante paso adelante con la introducción de una nueva herramienta que permite a las víctimas de deepfakes eliminar estas imágenes del motor de búsqueda Bing. Esta reciente iniciativa tiene como objetivo abordar la proliferación de contenido pornográfico falso en Internet que parece presentar a personas reales, un fenómeno que se ha visto agravado por los avances en inteligencia artificial.
Detengan la difusión de contenido para adultos deepfake de Microsoft
La asociación de Microsoft con StopNCII (Detener las imágenes íntimas no consensuadas) representa una colaboración vital en la lucha contra la “venganza” y las imágenes de desnudos deepfake. StopNCII es una organización que permite a las víctimas crear una huella digital o “hash” de imágenes explícitas, ya sean reales o generadas por IA, en sus dispositivos. Esta huella se utiliza luego para rastrear y eliminar las imágenes ofensivas en varias plataformas.
Bing de Microsoft ahora forma parte de este esfuerzo, uniéndose a las filas de otras plataformas tecnológicas importantes como Facebook, Instagram, TikTok y Reddit. Se trata de una incorporación fundamental a las ya exhaustivas medidas de seguridad de Microsoft, que anteriormente dependían de una herramienta de denuncia directa. Si bien la opción de denuncia directa permitía a los usuarios denunciar contenido dañino, no era suficiente para hacer frente al volumen de material ofensivo. Al integrar la tecnología de huellas digitales de StopNCII, Microsoft pretende evitar de forma más eficaz y proactiva que estas imágenes aparezcan en los resultados de búsqueda y ayudar a las víctimas a recuperar el control sobre sus activos digitales.
La lucha continua contra los deepfakes
La cuestión de las imágenes de desnudos generadas por IA se ha convertido en una preocupación creciente con implicaciones generalizadas, especialmente en países como Estados Unidos. Estados Unidos donde no existe una ley federal que se ocupe específicamente de la pornografía deepfake con inteligencia artificial. Esto ha dado lugar a sólo 23 estados promulgar leyes para abordar deepfakes no consensuadosdejando a las víctimas de muchas regiones sin recursos legales adecuados. La asociación de Microsoft con StopNCII y la nueva herramienta de Bing pueden brindar cierto alivio en un entorno donde las protecciones legales son inconsistentes.
Sin embargo, el problema es que No limitado a adultosLos estudiantes de secundaria también están siendo blanco de “Desnudarse” sitios que crean imágenes falsas de desnudos, lo que demuestra la necesidad de leyes más estrictas y protecciones más integrales. Las herramientas de StopNCII actualmente solo cubren a personas mayores de 18 años. Sin embargo, el impacto más amplio de estas tecnologías dañinas es claro y la necesidad de medidas más fuertes para proteger a los usuarios jóvenes es inevitable.
El compromiso de Microsoft con la seguridad digital
Microsoft es consciente desde hace tiempo de los efectos nocivos de compartir imágenes íntimas sin permiso y ha tomado medidas para abordar este problema. En el año 2015, Microsoft lanzó una herramienta de denuncia centralizada destinada a ayudar a los usuarios a denunciar y eliminar imágenes íntimas no consentidas. Pero a medida que la tecnología detrás de las imágenes sintéticas ha evolucionado, también lo ha hecho el enfoque de Microsoft.
La empresa también ha abogado por la modernización de las leyes para proteger a las víctimas de contenido generado por IA y ha publicado propuestas de políticas destinadas a proteger a las mujeres y los niños del abuso en línea. Además, Microsoft sigue mejorando sus políticas internas para evitar la creación y distribución de este tipo de contenido en sus plataformas, incluidas Bing, Xbox y otros servicios para consumidores.
La nueva herramienta de Microsoft es un gran paso adelante, pero la lucha contra las deepfakes no ha terminado. Las nuevas tecnologías traen consigo nuevos desafíos y debemos responder rápidamente. Microsoft está trabajando con StopNCII y otros grupos para luchar contra las deepfakes, pero necesitamos la ayuda de todos.
Microsoft anima a las personas que están preocupadas por la difusión de sus imágenes íntimas a que utilicen las herramientas de StopNCII y denuncien las infracciones a Microsoft. Esto ayudará a detener la difusión de estas imágenes y dará a las víctimas cierto control. Si bien la tecnología ha posibilitado nuevas formas de abuso, también está proporcionando nuevas formas de contraatacar. La última medida de Microsoft muestra esta lucha continua.
Crédito de la imagen destacada: Johannes Krupinski / Unsplash
Source: La nueva medida de Microsoft para luchar contra los vídeos para adultos deepfake
