Si bien los titulares de políticas y medios de comunicación estadounidenses se han centrado históricamente en plataformas como Instagram, Facebook, YouTube, Tiktok y X, se produce un cambio significativo a medida que los jóvenes usan cada vez más plataformas de juego y ajustes de juego para la interacción social. Estas conversaciones, que ocurren en servicios como Discord, Roblox y Steam, suelen ser anónimos y en gran medida ocultas a la vista pública. Estas plataformas, originalmente diseñadas para conectar a los jugadores, se han convertido en centros primarios para el discurso social y la interacción auténtica, particularmente a medida que las aplicaciones convencionales priorizan el contenido diseñado para la viralidad. Esta evolución ha traído un nuevo escrutinio, con un enfoque en cómo estos foros cerrados pueden albergar el odio y la explotación, problemas que a menudo permanecen ocultos hasta que se manifiestan en daños en el mundo real. Las aplicaciones de redes sociales convencionales están estructuradas para elevar y amplificar el contenido públicamente, lo que las convierte en herramientas efectivas para difundir ideologías, rumores o desinformación. Sin embargo, muchas de estas ideas primero se arraigan en foros más pequeños y privados en plataformas de juego. Los grupos extremistas que han sido eliminados de los servicios principales han encontrado casas nuevas en estos espacios. A diferencia de las aplicaciones públicas, los usuarios en las plataformas de juego están más acostumbrados a operar con seudónimos. Esta práctica de usar pseudoidentidades facilita el intercambio anónimo de ideas radicales y tabú. Mariana Olaizola Rosenblat, asesora de políticas sobre tecnología y derecho en NYU Stern, explica que la arquitectura misma de estas plataformas centradas en los juegos es un factor clave en la proliferación de contenido peligroso. “Los extremistas y los depredadores van a estos espacios de juego para encontrar jóvenes altamente comprados y susceptibles, muchos de los cuales anhelan la conexión”, dice ella. Las salas de chat privadas más pequeñas donde a menudo se desarrollan conversaciones dañinas generalmente se sellan de los observadores externos. “La mayoría de los investigadores son básicamente ciegos a todo esto. No puedes entrar en estas habitaciones”, señala Rosenblat. Los usuarios también aprovechan el contexto del juego, empleando “GamesPeak” para disfrazar conceptos extremistas o peligrosos, lo que difumina la distinción entre el juego de roles y la intención del mundo real. Si bien las plataformas en sí tienen acceso técnico a este contenido, el gran volumen hace que el monitoreo sea un desafío significativo. Rosenblat observa que la mayoría no ha invertido lo suficiente en las salvaguardas o los recursos de moderación necesarios para proteger a los usuarios jóvenes. Es importante tener en cuenta que la mayoría de las conversaciones en estas plataformas son ordinarias. Van desde discusiones sobre juegos y participación en grupos de estudio hasta fandoms deportivos y foros comunitarios de vecindad. Sin embargo, estos mismos entornos también se han convertido en un terreno fértil para la radicalización y la explotación, con un número creciente de incidentes que sacan a la luz el problema. Discord enfrenta un renovado escrutinio después de que el sospechoso en el asesinato de Charlie Kirk parecía confesar dentro de un chat de discordia. La plataforma también fue utilizada por los organizadores del 2017 Unite the Right Rally en Charlottesville para coordinar la logística, incluidos los viajes en viajes y el alojamiento. En un incidente separado, el tirador que mató a 10 personas en un vecindario negro de Buffalo en 2022 documentó meses de su planificación en una conversación privada de discordia. Además, una investigación de 2018 realizada por The Daily Beast descubrió cientos de casos de porno de venganza que se compartían entre los servidores de discordia. Roblox, una plataforma comercializada directamente para los niños, ha generado fuertes críticas por el contenido sexual, depredador y extremista que aparece en su servicio. La compañía se enfrenta actualmente a múltiples demandas. Una demanda, presentada por el estado de Louisiana, alega que Roblox no pudo proteger a los niños. Otro fue archivado por una familia de Iowa después de que su hija de 13 años fue secuestrada, traficada y violada por un depredador que conoció en la plataforma. Un portavoz de Roblox proporcionó una declaración sobre sus prácticas de seguridad:
“Si bien no podemos comentar sobre las afirmaciones recaudadas en litigios, en Roblox, nos esforzamos por mantenernos a los más altos estándares de seguridad. Invertimos recursos significativos en tecnología de seguridad avanzada, incluida una combinación de equipos de aprendizaje automático y moderación humana que trabajan 24/7 para detectar y abordar contenido y comportamiento inapropiados”.
El tiroteo de Buffalo 2022 se transmitió en vivo en Twitch, la plataforma de juegos propiedad de Amazon. Twitch condenó el ataque, eliminó el video rápidamente y declaró que estaba trabajando estrechamente con la policía para investigar el incidente. En 2021, los investigadores descubrieron que la plataforma Steam se había convertido en un espacio de redes para las ideologías de extrema derecha, alojando grupos que promovían organizaciones neonazis. Tras el asesinato de Charlie Kirk, las plataformas de juego están recibiendo una mayor atención de los responsables políticos de los Estados Unidos. El presidente de supervisión de la casa, James Comer (R-Ky.), Le ha pedido a los CEO de Discord, Steam, Twitch y Reddit que testifiquen ante el Congreso el 8 de octubre sobre el tema de la radicalización del usuario en sus plataformas.
Source: CEOs de discordia, vapor, testigación para testificar sobre la radicalización
