Twitch, la popular plataforma de transmisión en vivo, presentó recientemente una función impulsada por IA diseñada para reducir el lenguaje ofensivo en las salas de chat. Anunciado por el equipo de soporte de Twitch en X (anteriormente Twitter), este nuevo experimento tiene como objetivo hacer que las interacciones en línea sean más positivas, pero aún queda por ver qué tan exitoso será.
La plataforma está implementando una advertencia basada en aprendizaje automático que animará a los usuarios a pensar dos veces antes de enviar mensajes que puedan considerarse ofensivos o irrespetuosos. Había bots moderadores para esto, pero no fueron suficientes, por lo que Twitch ahora está buscando introducir un sistema integrado.
La IA se hace cargo de las malas palabras en el chat de Twitch, pero los bots siguen campando a sus anchas
La idea básica detrás de esta nueva función es proporcionar un momento de pausa para los usuarios que están a punto de enviar mensajes potencialmente dañinosCuando la IA detecte lenguaje que podría considerarse ofensivo, aparecerá un mensaje que preguntará: “¿Estás seguro que deseas enviar esto?El mensaje tiene como objetivo evitar comunicaciones dañinas al brindarles a los usuarios la oportunidad de reconsiderar sus palabras antes de presionar enviar.
Pero el verdadero problema Aquí no se trata tanto de que la gente diga malas palabras, sino de si cuentas de bot Están enviando spam a los difusores chats o ganar una audiencia injusta. En otras palabras, una cuenta de bot ya pasará esta advertencia y se comerá esa palabra nuevamente, y la cuenta Ya se ha abierto para prohibirloEs un poco interesante tomar medidas contra las situaciones causadas por el problema en lugar de resolver el problema fuente.
Amigos, usamos el ejemplo del mensaje porque, como era de esperar, no queríamos que se tuiteara un lenguaje realmente terrible.
Dejen de ser imbéciles.
— Soporte de Twitch (@TwitchSupport) 12 de agosto de 2024
El concepto es simple, pero aún queda por ver cuán efectivo será. El objetivo de Twitch es reducir el acoso, un problema común en muchas comunidades en línea. Sin embargo, surge la pregunta: ¿los usuarios que quieran ser irrespetuosos ignorarán la advertencia y continuarán con sus mensajes? ¿O qué tan bien funcionará la advertencia para las cuentas de bots? El experimento de Twitch ayudará a determinar si este enfoque impulsado por IA realmente puede frenar el comportamiento negativo, o si es solo otro filtro que los usuarios pasan sin pensarlo mucho.
Los desafíos y el futuro de la moderación con IA
Uno de los aspectos más intrigantes de este experimento es Cómo la IA interpretará el lenguajeLos sistemas de inteligencia artificial, especialmente los basados en el aprendizaje automático, se basan en patrones y datos para tomar decisiones. El éxito de este experimento depende de la capacidad de la inteligencia artificial para detectar y marcar con precisión el lenguaje ofensivo sin censurar inadvertidamente comentarios inofensivos. Este equilibrio es crucial, ya que una moderación demasiado sensible puede impedir el libre flujo de la conversación, mientras que un enfoque demasiado indulgente puede no lograr frenar el comportamiento que pretende eliminar.
¿O será capaz la IA de detectar cosas que son ilegales, como por ejemplo? algunos sitios de apuestas¿Sin blasfemias ni mensajes groseros, por ejemplo?
El equipo de soporte de Twitch ha insinuado que se compartirán más actualizaciones sobre esta función en las próximas semanas. A medida que avance el experimento, tanto Twitch como sus usuarios estarán atentos para ver si esta iniciativa impulsada por IA puede fomentar un entorno más acogedor. Queda por ver si se trata de un paso hacia salas de chat más limpias o de una medida temporal. Mientras tanto, me gustaría que limpiaran las cuentas de bots.
Este experimento es un recordatorio de que todo lo que se comparte en Twitch se graba y se monitorea, incluso los mensajes privados. Por eso, se analizarán tanto las palabras buenas como las malas. ¿Se desarrollará esta inteligencia artificial utilizando estos datos? O, ¿cómo deberíamos decirlo? ¿Se obtendrá permiso de los usuarios?
Crédito de la imagen destacada: Proyecto RDNE Stock / Pexels
Source: Twitch usará inteligencia artificial contra las malas palabras
