Moderação de comportamento

📝 Este artigo é um esboço. Você pode ajudar a wiki do diVerso expandindo-o. 📝

Autoria inicial: Andreas Zattar e Luana Zattar

Um dos maiores problemas das redes sociais hoje em dia é a moderação de seu conteúdo. Empresas devem se preocupar em impedir que conteúdos impróprios para um ambiente social sejam veiculados nas mídias.

Com a mudança de interações do mundo real para o universo virtual, não surpreende que comportamentos ofensivos e incoerentes com a vida em sociedade também ocorreriam no Metaverso.

Apesar disso, impedir que esse comportamento ocorra ou até mesmo puni-lo traz muitos desafios. Estes variam, desde como trazer segurança ao Metaverso na prática, até em como incluir todas as pessoas usuárias do universo virtual. Assim, os usuários do Metaverso estão em uma constante busca por respostas para este desafio.

Das redes para o Metaverso

Em 02 de Dezembro de 2022, a conta do rapper americano Kanye West foi suspensa da  rede social Twitter pelo seu novo proprietário, o magnata da tecnologia Elon Musk. O bilionário que havia prometido mais liberdade de expressão aos usuários da plataforma, suspendeu a conta do músico, por “incitação à violência”, após postagens anti semitas.

Comentários agressivos e preconceituosos vêm ocorrendo nas redes sociais há anos, devido, em partes, aos facilitadores da anonimidade e da alta exposição. Para que se tenha uma ideia da magnitude da situação relatada acima, Kanye West possuía mais de 30 milhões de seguidores em sua conta do Twitter antes de tê-la suspensa (pela segunda vez no último ano).

No entanto, situações como essas podem ser controladas e evitadas, em certo grau, quando ocorrem dentro das plataformas das redes sociais, por meio de medidas administrativas como bloqueio/suspensão da conta. Por outro lado, é certo que esse controle será significativamente menos eficaz, e mais restrito, dentro do Metaverso, como aponta o próprio CTO da Meta (antiga Facebook), Andrew Bosworth. O americano alega que a moderação dentro da plataforma “em qualquer escala significativa é praticamente impossível”. O raciocínio de Bosworth segue o chamado “Teorema da Impossibilidade de Massnick”, cuja máxima dita que “moderação de conteúdo em grande escala é impossível de fazer bem”.

Dessa forma, à medida que a moderação se torna mais difícil de ser atingida no Metaverso, o problema citado adquire proporções alarmantes, exigindo modos de controle que sejam, ao menos, minimamente eficazes e viáveis contra a disseminação do ódio e da violência no “universo digital”.

E na prática?

Mas, afinal, o que envolve a moderação de conteúdo no Metaverso? Como funcionaria na prática? A resposta para essas perguntas já pode ser encontrada, ou, pelo menos, em parte.

O jornalista Aaron Mark escreveu um relato de sua experiência como moderador em um evento do Metaverso, descrevendo detalhes de situações peculiares que acontecem em um trabalho como esse.

Mark trabalhou em um evento da AltSpaceVR, plataforma de Metaverso da Microsoft, com uma empresa responsável pela segurança virtual de um evento, a Educators in VR. Os desafios da moderação na prática são vários. Algo que no mundo real é tido como inapropriado, no ambiente do Metaverso pode ser apenas um cumprimento. Uma situação de um avatar balançando a cabeça para a frente e para trás em frente a outro avatar pode ser interpretado como um tipo de abuso, ou, ao mesmo tempo, ser apenas uma forma de cumprimento.

Outros movimentos estranhos são pessoas que, de repente, saem correndo pela sala virtual. Seria uma tentativa de atrapalhar o evento ou um usuário novo com problemas de controlar o seu avatar?  (algo que acontece às vezes se o controle trava). Simples movimentos no mundo real, como se sentar e levantar, podem gerar resultados bizarros no Metaverso, como avatares caindo ao chão ou flutuando. São nesses momentos que é difícil decidir se a pessoa por trás do avatar têm más intenções ou é apenas nova na realidade virtual.

Mas e se alguém está claramente tentando causar tumulto ou representando atitudes que não têm lugar em um ambiente social? Nesses casos, já se viu avatares se masturbando publicamente, escalando um palco em que acontecia uma palestra ou até mesmo gritando frases racistas. Como esse tipo de conteúdo pode ser proibido?

No passado, era necessário que o avatar responsável pela moderação do evento tivesse que perseguir o avatar disruptivo para expulsá-lo, o que era altamente trabalhoso e problemático. Hoje, apenas alguns anos depois, já se permite que empresas moderadoras como a Educators in VR tenham um painel de controle para mutar avatares e expulsá-los apenas com um clique.

Assim, vê-se que a moderação está evoluindo tecnologicamente para tornar o controle mais fácil no Metaverso, mas ainda há, na prática, uma grande dificuldade de se definir quem realmente está agindo com más intenções em vários casos, o que pode gerar em bloqueios de usuários que estão apenas tentando participar de um novo mundo.

O cenário Latino

Trazendo essa realidade para a América Latina, a moderação pode ser um problema ainda mais relevante. A empresa Globant realizou uma pesquisa com 834 profissionais da tecnologia, sendo 86,57% da América Latina. Os resultados mostraram que 73% acreditam que o Metaverso é acessível a elas e 69% acham que ele desempenha papel crucial no trabalho remoto. Ainda, concluiu-se que, em 2026, 25% das pessoas devem passar pelo menos uma hora por dia dentro do Metaverso, por motivos de trabalho, educação, compras e entretenimento.

Nesse cenário, em que o universo virtual deve crescer na América do Sul, também deve crescer a preocupação com a moderação.

O assunto ganha força ao se considerar como a moderação ocorre no mundo virtual 2D em países latinos, indianos e que não falam a língua inglesa. Segundo a ex-funcionária do grupo Meta, Frances Haugen, esses países não são priorizados quando se trata de moderação nas redes sociais. Haugen apresentou uma série de documentos e alegações contra a antiga empresa que causaram tumulto, incluindo afirmando que o Brasil não é um país de prioridade do grupo Meta quando se trata de discursos de ódio.

Devido a isso, faz-se a pergunta se, com o crescimento no uso do Metaverso, a moderação também será uma prioridade ou países fora da América do Norte e Europa não terão a devida atenção quanto ao estabelecimento de uma realidade virtual segura.

Procurando soluções

As respostas para as perguntas envolvendo a moderação do Metaverso ainda devem demorar para serem encontradas: ressalta-se que o próprio CTO do grupo Meta declarou que a moderação no Metaverso é uma prioridade, mas admitiu que a sua impossibilidade de ser alcançada em grande escala poderia se tornar a ruína dos planos da Meta.

No entanto, é verdade que já foi feito um certo avanço desde a criação desse novo mundo. Bosworth comentou sobre avanços na realidade virtual, como o bloqueio de outros usuários (como citado anteriormente) e um sistema de vigilância no Horizon, uma nova plataforma do Meta, em que todas as interações ficam gravadas e podem ser revistas caso um usuário delate o outro. Ainda prometeu que 50 milhões de dólares serão direcionados em pesquisas éticas e práticas de moderação.

Assim, uma das possíveis soluções seria a moderação pelos próprios usuários, como sugerido pelo Meta. Essa ferramenta já é utilizada em massa nas plataformas das redes sociais mais populares, como o Twitter e o Instagram, onde é possível “denunciar” posts e contas que violem as diretrizes de convivência da comunidade. Assim, a equipe responsável recebe e analisa a denúncia, podendo determinar, até mesmo, o bloqueio ou suspensão da conta.

Outra opção que já está em prática seria a moderação por empresas especializadas em segurança do Metaverso, como a Cogitotech. No entanto, devido à previsão de crescimento do Metaverso, isso se tornaria inviável.

Por fim, pode-se pensar na automação, em que a inteligência artificial faria o trabalho de identificar condutas que configuram discurso de ódio, algo que não é muito promissor, considerando que essa ferramenta não é eficaz sequer nas próprias redes sociais.

Ainda é necessário investimento de pesquisa e dinheiro para chegar a uma solução que não tenha falhas, mas algo que deve ser observado é que a moderação seja para todos. Na entrevista de Haugen, mencionada anteriormente, ela relata que um dos problemas para moderar os conteúdos das redes sociais é que as tecnologias só têm familiaridade com a língua inglesa, excluindo países não falantes da inteligência responsável pela moderação. O grupo Meta contrariou esses depoimentos, afirmando possuir funcionários falantes de outras línguas encarregados de países como Brasil. No entanto, fica a dúvida se as inovações que se buscam com as pesquisas serão inclusivas de países em que a própria tecnologia demora mais para ser adotada.