Si bien los responsables políticos y los titulares de los medios de comunicación estadounidenses se han centrado históricamente en plataformas como Instagram, Facebook, YouTube, TikTok y X, se está produciendo un cambio significativo a medida que los jóvenes utilizan cada vez más los juegos y las plataformas adyacentes a los juegos para la interacción social. Estas conversaciones, que tienen lugar en servicios como Discord, Roblox y Steam, suelen ser anónimas y en gran medida ocultas a la vista del público.
Estas plataformas, originalmente diseñadas para conectar a los jugadores, han evolucionado hasta convertirse en centros principales para el discurso social y la interacción auténtica, particularmente a medida que las aplicaciones convencionales priorizan el contenido diseñado para la viralidad. Esta evolución ha generado un nuevo escrutinio, centrándose en cómo estos foros cerrados pueden albergar odio y explotación, problemas que a menudo permanecen ocultos hasta que se manifiestan en daños en el mundo real.
Las principales aplicaciones de redes sociales están estructuradas para elevar y amplificar el contenido públicamente, lo que las convierte en herramientas eficaces para difundir ideologías, rumores o desinformación. Sin embargo, muchas de estas ideas primero se arraigan en foros más pequeños y privados en plataformas de juegos. En consecuencia, los grupos extremistas que han sido retirados de los servicios principales han encontrado nuevos hogares en estos espacios.
A diferencia de las aplicaciones públicas, los usuarios de las plataformas de juegos están más acostumbrados a operar con seudónimos. Esta práctica de utilizar pseudoidentidades facilita el intercambio anónimo de ideas radicales y tabú.
Mariana Olaizola Rosenblat, asesora de políticas sobre tecnología y derecho en NYU Stern, explica que la arquitectura misma de estas plataformas centradas en juegos es un factor clave en la proliferación de contenido peligroso. “Los extremistas y depredadores acuden a estos espacios de juego para encontrar jóvenes susceptibles y muy comprometidos, muchos de los cuales anhelan conectarse”, dice.
Las salas de chat privadas más pequeñas donde a menudo se desarrollan conversaciones dañinas generalmente están cerradas a los observadores externos. “La mayoría de los investigadores básicamente no ven todo esto. No se puede entrar en estas salas”, señala Rosenblat. Los usuarios también aprovechan el contexto del juego, empleando “lenguaje de juego” para disfrazar conceptos extremistas o peligrosos, lo que desdibuja la distinción entre los juegos de rol y la intención del mundo real. Si bien las propias plataformas tienen acceso técnico a este contenido, el gran volumen hace que el seguimiento sea un desafío importante. Rosenblat observa que la mayoría no ha invertido lo suficiente en las salvaguardias o recursos de moderación necesarios para proteger a los usuarios jóvenes.
Es importante señalar que la mayoría de las conversaciones en estas plataformas son ordinarias. Van desde debates sobre juegos y participación en grupos de estudio hasta fandoms deportivos y foros comunitarios de vecinos. Sin embargo, estos mismos entornos también se han convertido en un terreno fértil para la radicalización y la explotación, con un número creciente de incidentes que sacan a la luz el problema.
Discord se enfrenta a un nuevo escrutinio después de que el sospechoso del asesinato de Charlie Kirk pareciera confesar en un chat de Discord. La plataforma también fue utilizada por los organizadores de la manifestación Unite the Right 2017 en Charlottesville para coordinar la logística, incluidos los viajes compartidos y el alojamiento. En un incidente separado, el tirador que mató a 10 personas en un vecindario negro de Buffalo en 2022 documentó meses de su planificación en un chat privado de Discord. Además, una investigación de 2018 realizada por The Daily Beast descubrió cientos de casos de pornografía de venganza compartida entre servidores de Discord.
Roblox, una plataforma comercializada directamente para niños, ha recibido duras críticas por el contenido sexual, depredador y extremista que aparece en su servicio. Actualmente, la empresa se enfrenta a múltiples demandas. Una demanda, presentada por el estado de Luisiana, alega que Roblox no protegió a los niños. Otra fue presentada por una familia de Iowa después de que su hija de 13 años fuera secuestrada, traficada y violada por un depredador que conoció en la plataforma.
Un portavoz de Roblox proporcionó una declaración sobre sus prácticas de seguridad:
“Si bien no podemos comentar sobre reclamos planteados en litigios, en Roblox nos esforzamos por cumplir con los más altos estándares de seguridad. Invertimos importantes recursos en tecnología de seguridad avanzada, incluida una combinación de equipos de aprendizaje automático y moderación humana que trabajan las 24 horas del día, los 7 días de la semana para detectar y abordar contenido y comportamiento inapropiados”.
El tiroteo en Buffalo de 2022 se transmitió en vivo en Twitch, la plataforma de juegos propiedad de Amazon. Twitch condenó el ataque, eliminó el video rápidamente y afirmó que estaba trabajando estrechamente con las autoridades para investigar el incidente.
En 2021, los investigadores descubrieron que la plataforma Steam se había convertido en un espacio de networking para ideologías de extrema derecha, albergando grupos que promovían organizaciones neonazis.
Tras el asesinato de Charlie Kirk, las plataformas de juegos están recibiendo cada vez más atención por parte de los responsables políticos estadounidenses. El presidente de Supervisión de la Cámara de Representantes, James Comer (R-Ky.), pidió a los directores ejecutivos de Discord, Steam, Twitch y Reddit que testifiquen ante el Congreso el 8 de octubre sobre el tema de la radicalización de los usuarios en sus plataformas.
