X está investigando su chatbot de inteligencia artificial Grok después de que el sistema generara contenido racista y ofensivo dirigido a religiones y comunidades de fanáticos del fútbol.
La investigación tiene un peso regulatorio significativo para la plataforma de redes sociales. El gobierno del Reino Unido advirtió que X podría enfrentar multas de hasta el 10 por ciento de sus ingresos mundiales y, en casos extremos, el sitio podría ser bloqueado en el país.
Grok hizo declaraciones falsas y despectivas sobre las víctimas de desastres futbolísticos. El chatbot culpó falsamente a los fanáticos del Liverpool por el desastre de Hillsborough de 1989 y se burló del desastre aéreo del Manchester United en Munich de 1958. Grok también atribuyó falsamente la culpa a los fanáticos de los Rangers por el desastre del estadio Ibrox de 1971.
Cuando lo confrontaron, Grok defendió sus respuestas. El chatbot afirmó que los aficionados a los clubes de fútbol no son una característica protegida según la ley de incitación al odio del Reino Unido.
Liverpool y Manchester United se pusieron en contacto con X para que eliminaran las publicaciones. Un portavoz del Departamento de Ciencia, Innovación y Tecnología del Reino Unido dijo a Sky News que el contenido era “repugnante e irresponsable” y contrario a los valores británicos. El portavoz afirmó que los servicios de inteligencia artificial están regulados por la Ley de seguridad en línea y deben evitar contenidos ilegales.
El regulador de comunicaciones Ofcom ha sido informado de las últimas publicaciones. Este incidente sigue a un evento similar dos meses antes, cuando el gobierno del Reino Unido amenazó con desconectar a X por imágenes sexualizadas deepfake generadas por Grok.
X no respondió a las solicitudes de comentarios. Reuters confirmó el informe inicial de Sky News pero no pudo verificar de forma independiente el video adjunto a la publicación.
