Roblox introduit une fonctionnalité de reformulation de chat en temps réel, alimentée par l’IA, qui remplace automatiquement les mots interdits par un langage plus respectueux, a annoncé la société jeudi.
La nouvelle fonctionnalité va au-delà du filtre de texte actuel de Roblox, qui remplace simplement les mots et expressions interdits par le symbole « # ». Mais Roblox affirme que lorsque les utilisateurs rencontrent des chaînes de « #### », les conversations peuvent être perturbées et difficiles à suivre.
Désormais, au lieu d’afficher simplement des marques de hachage, le texte filtré sera reformulé dans un langage plus respectueux et proche de l’intention initiale de l’utilisateur.
Par exemple, un message indiquant « Dépêchez-vous, TF ! » aurait été auparavant « #### », mais sera désormais reformulé en « Dépêchez-vous ! » Tout le monde dans le chat est informé que le message a été reformulé pour garder la conversation civile, dit Roblox.
« Le chat est au cœur de la façon dont les gens se connectent, se coordonnent et jouent sur Roblox », a déclaré Rajiv Bhatia, vice-président des produits utilisateur et découverte chez Roblox, dans un communiqué de presse. « La reformulation en temps réel aide à maintenir le gameplay et les conversations sur la bonne voie tout en guidant le langage vers ce qui est approprié. Cette approche réduit les frictions dans le chat tout en maintenant les normes qui contribuent à maintenir notre communauté civile. »
Roblox note que même si la reformulation réduit certaines perturbations dans le chat, son système de sécurité reste en vigueur pour les comportements plus graves.
La nouvelle fonctionnalité est prise en charge dans toutes les langues actuellement disponibles via les outils de traduction automatique de Roblox.
Événement Techcrunch
San Francisco, Californie
|
13-15 octobre 2026
La société met également à niveau son système de filtrage de texte afin de détecter davantage de variantes de langages interdits. Roblox affirme que les premiers résultats montrent que le système s’améliore dans la détection du langage leets et que les tentatives sont plus sophistiquées pour contourner les filtres. Cela a permis à l’entreprise de réduire de 20 fois la prévalence des faux négatifs lors du partage ou de la sollicitation d’informations personnelles.
L’annonce de jeudi intervient peu de temps après que Roblox a introduit la vérification faciale obligatoire pour l’accès aux chats sur sa plateforme, à la suite d’une vague de poursuites pour la sécurité des enfants de la part des procureurs généraux du Texas, du Kentucky et de la Louisiane, entre autres. Les poursuites ont été déposées en réponse à des informations selon lesquelles Roblox exposait les jeunes utilisateurs à des risques dangereux, tels que le toilettage et le contenu explicite.
