Roblox ahora usa IA para reescribir en tiempo real las palabrotas y expresiones ofensivas en el chat

En resumen

• La nueva función de Roblox, impulsada por IA, reescribe las palabras malsonantes en el chat en lugar de reemplazar los mensajes con “####”.
• El sistema busca mantener las conversaciones legibles durante el juego mientras hace cumplir las normas de la comunidad de Roblox.
• La compañía también está mejorando sus filtros de chat para detectar palabras malsonantes y intentos de obtener información personal de los jugadores.

La plataforma de juegos en línea, Roblox, que goza de gran popularidad, anunció el jueves que reemplazará las cadenas de signos de numeral que aparecen cuando sus filtros de chat detectan palabras malsonantes con versiones reformuladas por IA de los mensajes señalados. La función, llamada reformulación en tiempo real del chat, modifica las palabras malsonantes en los mensajes para que las conversaciones permanezcan legibles en lugar de aparecer como texto bloqueado. “Por ejemplo, un mensaje que viola las políticas de palabras malsonantes de Roblox, como ‘¡Apúrate TF!’, anteriormente aparecería como ‘####’ en el chat de la experiencia,” dijo la compañía. “Ahora será reformulado a ‘¡Apúrate!’” 

Según Rajiv Bhatia, vicepresidente de Producto de Usuario y Descubrimiento de Roblox, este nuevo diseño busca mantener la civilidad reformulando el lenguaje y reemplazando las “señales de stop” con palabras reales. “El chat es fundamental para cómo las personas se conectan, coordinan y juegan en Roblox,” afirmó Bhatia en un comunicado. “La reformulación en tiempo real ayuda a mantener el juego y las conversaciones en buen camino, guiando el lenguaje hacia lo que es apropiado.” En mayo de 2025, Roblox introdujo advertencias en tiempo real que alertan a los usuarios cuando los mensajes podrían violar las reglas de la plataforma, y los animan a reconsiderar su redacción. “En experimentos realizados el año pasado, Roblox observó que emitir notificaciones de chat en la experiencia y aplicar tiempos de espera resultó en una reducción del 5% en los mensajes filtrados y del 6% en las consecuencias derivadas de informes de abuso,” afirmó la compañía.

A pesar de la disminución, Roblox dijo que el nuevo cambio aborda un problema de larga data, donde el lenguaje filtrado aparece como cadenas de caracteres aleatorios, lo que puede dificultar seguir las conversaciones durante el juego. Aunque los jugadores son notificados cuando el texto es reformulado, la compañía asegura que el nuevo sistema no modifica sus políticas de aplicación respecto a las palabras malsonantes. “Para ser claros, cuando reformulamos un mensaje que viola nuestra política de palabras malsonantes, sigue siendo una violación, y las mismas reglas se aplican,” afirmó Bhatia en un comunicado separado el jueves. “Un usuario que continúe intentando insultar en el chat enfrentará las mismas consecuencias por violar repetidamente nuestra política.” La función de reformulación, según Roblox, está disponible solo en chats entre usuarios verificados por edad en grupos de edad similares, y soporta todos los idiomas actualmente disponibles a través de las herramientas de traducción automática de Roblox. Para entender cómo hablan los adolescentes durante el juego, Roblox afirmó que la nueva función de reformulación fue desarrollada en colaboración con miembros de su Consejo de Adolescentes. La compañía también está mejorando su sistema de filtrado de texto para detectar mejor los intentos de evadir las reglas de moderación, incluyendo variaciones del lenguaje que sustituyen números o símbolos por letras, conocidas como leetspeak. El reformulado en chat de Roblox forma parte de una tendencia creciente en la industria del gaming, donde cada vez más empresas utilizan IA para moderar el comportamiento de los jugadores en juegos multijugador. En 2024, Activision informó que más de 2 millones de cuentas fueron marcadas por chats disruptivos tras implementar su sistema de moderación ToxMod impulsado por IA en varios títulos de Call of Duty. La compañía afirmó que esta herramienta ayudó a reducir los reincidentes y a disminuir los casos severos de chat de voz disruptivo. Roblox también ha expandido su uso de IA en toda la plataforma. En febrero de 2024, la compañía introdujo traducción en tiempo real en el chat, que permite a los jugadores comunicarse en más de 16 idiomas en el chat de Roblox. “Esta es una estrategia audaz, y no siempre reformularemos las cosas a la perfección,” dijo Bhatia sobre la última iniciativa, añadiendo que la compañía continuará aprendiendo y experimentando con la función. “Nuestro objetivo final es empoderar a los usuarios para colaborar y conectarse de una manera que sea divertida y respetuosa.”

Roblox no respondió de inmediato a una solicitud de comentario por parte de Decrypt.