Roblox lanzó una función de reformulación de chat en tiempo real impulsada por IA para reemplazar las palabras prohibidas con un lenguaje más respetuoso. El nuevo sistema reemplaza el filtro anterior de la plataforma, que simplemente censuraba el texto prohibido con símbolos hash. Roblox afirmó que el cambio tiene como objetivo evitar que las conversaciones se interrumpan y sean difíciles de seguir.
La función reformula el texto filtrado para permanecer cerca de la intención original del usuario manteniendo el civismo. Por ejemplo, el mensaje “¡Date prisa, TF!” Ahora aparecerá como “¡Date prisa!” en lugar de “####.” La empresa notifica a todos los usuarios de un chat cuando se reformula un mensaje.
“La reformulación en tiempo real ayuda a mantener el juego y las conversaciones encaminadas mientras guía el lenguaje hacia lo apropiado”, dijo Rajiv Bhatia, vicepresidente de Usuario y Producto de Descubrimiento en Roblox. “Este enfoque reduce la fricción en el chat y al mismo tiempo mantiene los estándares que ayudan a mantener civilizada a nuestra comunidad”.
La herramienta de reformulación admite todos los idiomas disponibles a través de las herramientas de traducción automática de Roblox. Roblox también está actualizando su sistema de filtrado de texto para detectar leetspeak y otros intentos sofisticados de eludir los filtros. La compañía informó que estas actualizaciones redujeron 20 veces los falsos negativos al compartir o solicitar información personal.
Este anuncio sigue a la introducción por parte de Roblox de la verificación facial obligatoria para el acceso al chat. El requisito de verificación se implementó luego de demandas de los fiscales generales de Texas, Kentucky y Luisiana con respecto a los riesgos para la seguridad infantil. Las acciones legales fueron motivadas por informes de usuarios jóvenes que enfrentan peligros como acoso y contenido explícito en la plataforma.
