Tecnologia

Microsoft quer usar IA para emitir palavrões no bate-papo do Xbox Live

Algoritmos de fala para texto ponderados para moderação baseada em aprendizado de máquina.

Hoje, a Microsoft anunciou  que está lançando filtros que permitirão aos jogadores do Xbox Live limitar automaticamente as mensagens baseadas em texto que recebem a quatro níveis de maturidade: “Amigável, Médio, Maduro e Não Filtrado”.

Microsoft quer usar IA para emitir palavrões no bate-papo do Xbox Live  outubro 15, 2019

Esse é um recurso muito atrasado para uma grande plataforma de comunicação que já tem mais de uma década , mas não é realmente algo novo em termos de moderação de conteúdo on-line.

O mais interessante é uma promessa de “olhar para o futuro” que a Microsoft fez no final do anúncio (ênfase adicionada):

Por fim, nossa visão é complementar nossos esforços existentes e alavancar os esforços de nossa empresa em inteligência artificial e tecnologia de aprendizado de máquina para fornecer filtragem em todos os tipos de conteúdo no Xbox Live , fornecendo controle para todos e cada jogador individualmente. Seus comentários são mais importantes do que nunca, à medida que continuamos a evoluir essa experiência e a tornar o Xbox um lugar seguro, bem-vindo e inclusivo para o jogo.

Isso é um pouco vago, mas o site The Verge relata o verdadeiro impulso dessa passagem: um esforço da empresa para “enfrentar o desafio da toxicidade do bate-papo por voz no Xbox Live”. Isso significa alavancar os esforços existentes da Microsoft em algoritmos de aprendizado de máquina de fala em texto para filtrar automaticamente palavrões que podem surgir em um bate-papo de festa do Xbox Live.

O objetivo final, disse Rob Smith, gerente de programa do Xbox Live, ao The Verge, é um sistema “semelhante ao que você esperaria na TV aberta, onde as pessoas estão conversando e, em tempo real, conseguimos detectar uma frase ruim e emitir um sinal sonoro para usuários que não querem ver isso “. Embora as redes de transmissão ainda usem engenheiros ao vivo para censurar seu conteúdo com atraso na fita (com erros às vezes desastrosos ), os planos da Microsoft envolvem o uso de aprendizado de máquina para filtrar a comunicação de voz em uma escala muito maior sem intervenção humana centralizada.

Isso deve ser uma boa notícia para os usuários preocupados com as análises humanas no estilo da Amazon dos comandos de áudio do Alexa . Smith enfatizou que “precisamos respeitar os requisitos de privacidade no final do dia para nossos usuários, por isso, abordaremos isso de maneira cuidadosa, e a transparência será nosso princípio norteador para que façamos a coisa certa para nossos jogadores. “

Embora os algoritmos de conversão de texto em texto estejam ficando muito rápidos e precisos atualmente , ainda estamos longe de um servidor centralizado poder detectar e bloquear de maneira confiável os palavrões em tempo real. E mesmo um pequeno atraso na transmissão pode ter um impacto enorme nos jogadores que precisam de comunicação instantânea para trabalharem juntos em uma situação de jogo em ritmo acelerado.

Enquanto isso, Smith disse que um algoritmo pode medir um “nível de toxicidade” geral no bate-papo em grupo e distribuir silenciamentos automáticos para usuários problemáticos. Esperemos que esse tipo de medida também possa afetar a classificação de um jogador no sistema de reputação do Xbox Live , o que já pode levar a proibições de palavrões excessivos em videoclipes revisados ​​por humanos.

Mostrar mais

Artigos relacionados

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo
Fechar

Adblock detectado

Por favor, considere apoiar-nos, desativando o seu bloqueador de anúncios