Indonesia ha levantado condicionalmente su prohibición sobre el chatbot Grok de xAI, luego de acciones similares por parte de Malasia y Filipinas. Los países del sudeste asiático impusieron las prohibiciones después de que Grok generara imágenes sexualizadas no consensuadas en X, incluidas falsificaciones profundas de mujeres y menores reales.
Análisis separados realizados por The New York Times y el Center for Countering Digital Hate encontraron que Grok produjo al menos 1,8 millones de imágenes de mujeres de este tipo entre finales de diciembre y enero.
El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia anunció la decisión después de recibir una carta de X “en la que se describen medidas concretas para mejorar el servicio y prevenir el uso indebido”. Alexander Sabar, director general de vigilancia espacial digital del ministerio, afirmó que la prohibición se levantó sólo “condicionalmente” y podría restablecerse si “se descubren más violaciones”.
Malasia y Filipinas levantaron sus prohibiciones el 23 de enero.
En Estados Unidos, la oficina del fiscal general de California, Rob Bonta, inició una investigación sobre xAI y emitió una carta de cese y desistimiento exigiendo medidas inmediatas para dejar de producir las imágenes.
xAI ha restringido la función de generación de imágenes de Grok a los suscriptores de pago en X. Elon Musk, director ejecutivo de xAI, dijo: “Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. Añadió que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”.
