Quando se trata de mídia social, todos nós sabemos que, além dos muitos benefícios que ela oferece ao facilitar as conexões, também pode possuir certos riscos e perigos que acompanham a interação online, principalmente para os jovens. Felizmente, existem aplicativos por aí que estão sendo proativos e tentando limitar esses danos que podem ocorrer aos jovens, implementando tecnologias de moderação adequadas.
Yubo, o aplicativo de invenção social ao vivo mais usado pela Geração Z, anunciou que sua tecnologia de moderação de áudio de transmissão ao vivo está se expandindo para seus maiores mercados, ou seja, Estados Unidos, Reino Uno, Austrália e Canadá.
Isso ocorre depois de vários meses testando o recurso em algumas áreas dos Estados Unidos, pois a empresa aprendeu a mourejar com os problemas que surgem com a estudo de áudio em tempo real.
A relevância da moderação de teor
Moderar teor online é um trabalho difícil de fazer. Vimos isso com o Facebook, o Twitter, o Instagram e assim por diante. Entre insultos, comentários odiosos ou mesmo, às vezes, violência ou automutilação, a moderação é extremamente importante para manter essas plataformas seguras e seus usuários protegidos. Há alguma coisa sobre ser capaz de se esconder detrás do suposto anonimato oferecido pela internet que pode trazer à tona o pior de algumas pessoas.
Muito, o Yubo continua a mostrar que está fazendo tudo o que pode para ajudar a evitar isso, principalmente porque sua base de usuários é muito mais jovem. De entendimento com a Yubo, 99% de sua base de usuários é da Geração Z, com idades entre 13 e 25 anos. Embora o assédio online não seja deleitável para ninguém, pode ser particularmente prejudicial para os adolescentes.
A tecnologia de moderação de imagem e vídeo já existe há qualquer tempo e foi implementada com vários estágios de sucesso. A moderação de áudio, no entanto, continua sendo um grande repto, principalmente com transmissões ao vivo. Quer seja uma transmissão ao vivo feita enquanto caminhava na rua ou uma em que alguém está jogando videogame, isso realmente não importa.
Uma vez que funciona a moderação de áudio do Yubo
A partir de maio de 2022, a Yubo iniciou uma temporada de teste para sua tecnologia de moderação de áudio em várias áreas dos Estados Unidos. Agora, a próxima temporada inclui a maioria das regiões de língua inglesa onde o Yubo tem uma grande base de usuários para permitir que a empresa obtenha uma melhor visão sobre sua novidade instrumento de segurança.
Embora ainda novidade, essa é uma tecnologia que pode completar sendo amplamente utilizada para detectar violência ou automutilação no porvir.
A Yubo não está fazendo isso sozinha, mas sim em parceria com a Hive. Hive, se você ainda não ouviu falar deles, é uma empresa que cria e fornece APIs de moderação de teor para processar imagens e vídeos quase em tempo real.
A tecnologia que o Yubo implementou funciona gravando e transcrevendo trechos de áudio de 10 segundos em transmissões ao vivo de 10 ou mais pessoas. O texto é imediatamente analisado pela perceptibilidade sintético para detectar quaisquer palavras ou frases que violem as Diretrizes da comunidade do aplicativo.
Espere, não para por cá. Embora a perceptibilidade sintético possa ser ótima para detectar essas coisas, ainda está longe do ponto em que pode diferenciar entre usos problemáticos reais e bandeiras falsas.
Falsas bandeiras podem ser, por exemplo, músicas tocando ao fundo ou linguagem lúdica que não é mal-intencionada.
Portanto, é cá que os especialistas em segurança do Yubo entram em ação, pois são trazidos para investigar os incidentes sinalizados. Os seres humanos são os únicos que determinam se uma situação requer escalada ou não, se há ações que devem ser tomadas contra as pessoas que usam palavrões, ou mesmo se a emprego da lei precisa ser acionada.
Se a transmissão ao vivo estiver perfeita, nenhuma transcrição será revisada ou mantida além do limite de 24 horas, portanto, tudo permanecerá privado; ou tão privado quanto uma transmissão ao vivo com mais de 10 pessoas pode ser.
No entanto, se os algoritmos detectarem ameaças violentas, oração de ódio ou autoagressão, por exemplo, as transcrições são armazenadas por até um ano. Esta é, obviamente, uma medida de segurança para a empresa caso a emprego da lei exija as informações ou a própria empresa precise dos detalhes para futuras investigações internas.
O diretor de operações da Yubo, Marc-Antoine Durand, vê a expansão da tecnologia de moderação de áudio porquê um elemento-chave na evolução da segurança online em todo o setor.
“Ainda há muito progresso a ser feito na dimensão de detecção de voz, mas estamos orgulhosos de penetrar caminho para nossos pares, sendo os primeiros a lançar a moderação de áudio com o Hive e ajudando a tornar essa instrumento mais confiável e eficiente por meio de nascente julgamento”, disse Durand.
Obviamente, as plataformas sociais não querem bullying infrene, oração de ódio e comentários que incitem à violência, pois isso afastaria outros usuários. A implementação dessa tecnologia de moderação é uma ótima instrumento para manter os usuários seguros e também para ajudar a prometer o prolongamento e o sucesso do Yubo a longo prazo.
Barnabé Ferreira