Ashley St. Clair, la madre de uno de los hijos de Elon Musk, presentó una demanda contra xAI el jueves. La demanda acusa a la empresa de negligencia e infligir angustia emocional a través de su herramienta de inteligencia artificial Grok. St. Clair afirma que Grok permitió a los usuarios generar fotografías falsas de ella en poses sexualmente explícitas, incluidas representaciones de niña en bikini y de adulta en posiciones explícitas.
St. Clair había notificado a xAI sobre estos deepfakes ilícitos y solicitó que se impidiera a Grok crear imágenes no consensuadas. Según la demanda, Grok respondió confirmando que sus imágenes no serían utilizadas ni alteradas sin consentimiento explícito en ninguna generación o respuesta futura. A pesar de esto, xAI supuestamente continuó permitiendo a los usuarios producir imágenes de ella más explícitas generadas por IA. La demanda alega además que xAI tomó represalias desmonetizando su cuenta X.
La demanda se presentó en el tribunal estatal de Nueva York, pero se transfirió rápidamente al Distrito Federal Sur de Nueva York tras una solicitud de xAI. X y xAI no respondieron de inmediato a una solicitud de comentarios.
La semana anterior a la presentación, X limitó las capacidades del robot de respuesta @Grok. Este cambio pareció impedir que generara imágenes que colocaran sin consentimiento a personas identificables en trajes de baño o ropa interior reveladores. Al momento de redactar el informe, esas capacidades sin restricciones permanecían activas en la aplicación Grok independiente, el sitio web de Grok y la pestaña Grok en X.
Los investigadores informaron que Grok había estado produciendo miles de imágenes sexualizadas generadas por IA por hora la semana anterior. Muchas de estas imágenes se publicaron públicamente en X. La capacidad de la herramienta para generar deepfakes no consensuados, incluido quitar la ropa de las fotos cargadas y reemplazarlas con bikinis o ropa interior, provocó semanas de reacciones negativas.
La creación y difusión generalizada de estas imágenes provocó respuestas globales. Varios gobiernos iniciaron investigaciones y hubo llamados a que los mercados de aplicaciones para teléfonos inteligentes prohibieran o restringieran X. En California, las autoridades iniciaron lo que se ha descrito como una investigación “Chuck”. El gobernador Gavin Newsom publicó en X, afirmando: “La decisión de xAI de crear y albergar un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no conshatecuales, incluidas imágenes que desnudan digitalmente a niños, es vil”.
La demanda de St. Clair describe la característica de Grok de crear deepfakes no consensuales como un defecto de diseño. Afirma que la empresa podría haber previsto su uso para acosar a personas con imágenes ilegales. La demanda afirma que los representados, incluido St. Clair, sufrieron una angustia extrema. Acusa a xAI de “conducta extrema e indignante, que excede todos los límites de la decencia y es absolutamente intolerable en una sociedad civilizada”.
