Exibir código-fonte para Privacidade e Moderação de conteúdo

 📝 Este verbete é um esboço. Você pode ajudar a wiki do diVerso expandindo-o. 📝

 🏆 Este verbete foi o campeão da 1ª Editatona do diVerso! Parabéns para os autores! =)🏆

 Autoria inicial: Carlos Eduardo Silva de Brito, Jessica Ribeiro das Neves e Juliana Maria Oliveira dos Santos
À medida que as tecnologias se desenvolvem elas empurram os limites da liberdade de expressão e, consequentemente, tornam necessária a moderação de conteúdo de modo a garantir a não violação aos direitos humanos e zelar pela privacidade dos usuários de plataformas, mantendo-o longe de conteúdos indesejados. A moderação de conteúdo em plataformas multiverso trazem camadas de dificuldades maiores e desafios que estão começando a ser discutidos por grandes corporações, instituições científicas e sociedade civil, especialmente no que diz respeito a crianças e adolescentes. 
[[Arquivo:Moderacao de conteudo.png|alt=3 balões de texto em um fundo azul, representando o desafio da moderação de conteúdo no Metaverso|centro|Autoria da imagem: ITS Rio]] 

== Histórico ==

O desenvolvimento de novas mídias e tecnologias alteram a maneira como a sociedade pensa e concebe os limites da liberdade de expressão<ref name=":0">Joshua Luke Johnson. A (Brief) History of Content Moderation. 2021. Disponível em: <nowiki>https://vocal.media/journal/a-brief-history-of-content-moderation</nowiki> </ref>. Ainda que o tema pareça recente, com discussões bem acaloradas, inclusive<ref>CNN. Moderação de conteúdo por redes sociais divide especialistas; saiba como é hoje. 16 de setembro de 2021. Disponível em: <nowiki>https://www.cnnbrasil.com.br/tecnologia/moderacao-de-conteudo-por-redes-sociais-divide-especialistas-saiba-como-e-hoje/</nowiki></ref>, os diálogos que envolvem liberdade de expressão remontam ao início do século 20 com os debates sobre liberdade de expressão e discurso de ódio nos Estados Unidos<ref>Ambiente legal. DISCURSO DE ÓDIO, LIBERDADE DE EXPRESSÃO E RESPONSABILIDADE JURÍDICA. 14 de agosto de 2022. Disponível em: <nowiki>https://www.ambientelegal.com.br/discurso-de-odio-liberdade-de-expressao-e-responsabilidade-juridica/</nowiki></ref>. Com o desenvolvimento da Internet e as possibilidades dadas ao usuário pela Web, as práticas de moderação de conteúdo se tornaram mais comuns especialmente em plataformas de conteúdos gerados pelo usuário como em fóruns de discussão, redes sociais, salas de bate-papo e qualquer espaço virtual multiusuário<ref name=":0" />.Ainda que o processo de moderação de conteúdo nem sempre resulte em sucesso, revela-se como uma prática indispensável para garantir um ambiente onde as pessoas possam cooperar e conviver com respeito e considerando a diversidade de gênero, raça, idade, localização, entre outros.

== Moderação de conteúdo online ==

=== Definição ===

A moderação de conteúdo online é entendida como um mecanismo de governança que estrutura a participação em uma comunidade para facilitar a cooperação e evitar abusos<ref>James Grimmelmann. The Virtues of Moderation. 2015. Disponível em: <nowiki>https://openyls.law.yale.edu/handle/20.500.13051/7798</nowiki> </ref>. Esta tem sido cada vez mais necessária dado o crescente número de dados e interação entre usuários. No caso das plataformas de conteúdos gerados pelo usuário, a segurança jurídica ocorre por meio dos termos de uso e políticas de privacidade<ref>Juridoc. Por que a sua startup precisa termos de uso e política de privacidade? 18 de abril de 2017. Disponível em: <nowiki>https://www.juridoc.com.br/blog/relacionamento-com-clientes-e-fornecedores/6920-por-que-sua-startup-precisa-termos-de-uso-e-politica-de-privacidade/</nowiki> </ref>. São esses documentos jurídicos que dizem ao usuário o que é e o que não é permitido nessas plataformas digitais.

=== Motivação ===

Além de garantir que não haja violação dos termos de uso e de privacidade de dados, a moderação de conteúdo visa atuar na privacidade do usuário, considerando também aspectos que tangem a coleta, compartilhamento e utilização dos dados do usuário, mantendo-o livre de atenções e/ou conteúdos indesejados<ref>Varonis. A diferença entre segurança de dados e privacidade. 9 de janeiro de 2018. Disponível em: <nowiki>https://www.varonis.com/pt-br/blog/a-diferenca-entre-seguranca-de-dados-e-privacidade</nowiki> </ref>. 

=== Tipos de moderação ===

A moderação de conteúdo pode ser realizada de duas formas: [[moderação automatizada]] ou [[moderação por humanos]]. A moderação automatizada é realizada através de sistemas algorítmicos de inteligência artificial. Ela possui custos fixos mais altos e custos de manutenção mais altos. Já a moderação por humanos depende de uma grande disponibilidade de pessoas, tanto aquelas que atuam de forma voluntária (seja um moderador de comunidade ou um usuário que fez uma denúncia) quando pessoas contratadas para desempenhar a função<ref>Clara Leitão de Almeida. REGULAÇÃO DA TRANSPARÊNCIA EM PLATAFORMAS DIGITAIS

E LEGITIMIDADE NA MODERAÇÃO DE  CONTEÚDO. Janeiro de 2022. Disponível em: <nowiki>https://bibliotecadigital.fgv.br/dspace;commle/bitstream/handle/10438/32486/Dissertac%CC%A7a%CC%83o%20Clara%20Leita%CC%83o%20final.pdf?sequence=1</nowiki> </ref>. Em qualquer um dos casos, pode-se dizer que a atividade é liderada por humanos e tem um caráter subjetivo. 

=== A moderação de conteúdo em plataformas metaversas ===

Ainda que a moderação de conteúdo já venha sendo tratado há alguns anos, a discussão ainda é incipiente quando concebemos o [[metaverso]]. A maior parte da moderação de conteúdo concentra-se, atualmente, em texto, imagem, áudio e vídeo e, cada uma destas tipologias é variável por si só<ref>Gerador. Guerreiros das sombras: a moderação de conteúdo nas redes sociais. 9 de maio de 2022. Disponível em: <nowiki>https://gerador.eu/guerreiros-das-sombras-a-moderacao-de-conteudo-nas-redes-sociais/</nowiki></ref>. Quando pauta-se a discussão do metaverso, incluímos gestos, comportamentos, culturas, contexto e as possibilidades de [[personalização de ambientes imersivos]], abordagens que trazem outros muitos desafios. Estudos já apontam que a quantidade de dados pessoais capturados em [[plataformas metaversas]] será  substancialmente maior  do que as já conhecidas plataformas da [[internet 2D]]<ref name=":1">ITIF. Lessons from Social Media for Creating a Safe Metaverse. 28 de abril de 2022. Disponível em: <nowiki>https://itif.org/publications/2022/04/28/lessons-social-media-creating-safe-metaverse/</nowiki> </ref>. 

Nesse quesito, algumas recomendações de práticas e soluções já estão sendo propostas para mitigar riscos de violação de segurança, a saber:<ref>Fastco Works. Why content moderation could make or break the metaverse. 16 de novembro de 2022. Disponível em:  <nowiki>https://www.fastcompany.com/90811476/why-content-moderation-could-make-or-break-the-metaverse</nowiki> </ref>

* [[Moderação 3D]] de conteúdo in-world 
* [[Moderação ao vivo]] (chat, áudio, vídeo) 
* Segurança e [[moderação de anúncios]] 
* [[Proteção contra danos ao usuário/jogador]]
* [[Detecção de fraude]] e aplicação antifraude
* [[Monitoramento, relatórios e resolução em tempo real]] 

=== Desafios da moderação de conteúdo ===

A moderação de conteúdo, ainda que automatizada, torna-se mais difícil pois os usuários encontram formas de burlá-los. Por exemplo, o algospeak, uma forma de linguagem que os usuários da internet estão criando, de maneira espontânea, para burlar os algoritmos dos sistemas de moderação de conteúdo das plataformas digitais. Dessa forma, os usuários conseguem produzir conteúdos sem serem “pegos” pelo sistema, banindo-os. Exemplos deste novo léxico seriam substituir a palavra “dead” por “unalive” ou trocar letras por números, como em “d34d”. Quando se trata de metaverso, onde a forma natural de comunicação não será somente a escrita, como no exemplo acima, mas sim as formas variadas de comunicação verbais e não verbais<ref>The Washington Post. Internet ‘algospeak’ is changing our language in real time, from ‘nip nops’ to ‘le dollar bean’. 08 de agosto de 2022. Disponível em: <nowiki>https://www.washingtonpost.com/technology/2022/04/08/algospeak-tiktok-le-dollar-bean/</nowiki>.</ref><ref>ITIF. Content moderation in Multi-User Immersive Experiences: AR/VR and the Future of Online Speech. 28 de Fevereiro de 2022. Disponível em: <nowiki>https://itif.org/publications/2022/02/28/content-moderation-multi-user-immersive-experiences-arvr-and-future-online/</nowiki></ref>, o “algospeak” potencialmente será desenvolvido por meio da fala, o que torna o desafio ainda maior para os sistemas de moderação de conteúdo dessas plataformas digitais, especialmente na área de processamento de linguagem natural ([[PLN]]).

=== Paradoxo da moderação ===

Toda essa discussão leva a um paradoxo: o conteúdo precisa ser moderado, mas o processo não pode ser tão rigoroso que não permita a inovação. Levar em consideração as experiências pregressas da Internet e da Web é importante, mas também usufruir dos casos de sucesso e falhas é importante, para que assim possam surgir novas abordagens para solução de problemas ou vislumbre de riscos não previstos e/ou imaginados.<ref name=":1" /> Nesse sentido, algumas medidas de grandes desenvolvedores de plataformas multiversas já surgem para mitigar os riscos à privacidade e à exposição de dados, especialmente com crianças e adolescentes<ref name=":1" />.

== Dados coletados pelos hardwares ==

Ao adentrar no metaverso, certos dados da pessoa real no mundo físico ficam também disponíveis no mundo virtual [13]. No metaverso, a pessoa física é representada por um [[avatar]], o qual pode ter características físicas parecidas com a pessoal real ou atributos frutos da imaginação. Além disso, no metaverso, dados novos, nunca antes divulgados na rede mundial de computadores, podem também ficar disponíveis. Neste ambiente, muitos dados biométricos podem estar a disposição de grandes bancos de dados. Por exemplo, algumas plataformas para controle etário podem começar a solicitar impressão digital, irís ou reconhecimento facial. Mas, além disso, essas plataformas conseguem capturar a forma de andar, gesticular, reagir a estímulos e a voz dos seus usuários<ref>Juristas. O avatar e a produção de dados no metaverso no âmbito da Lei Geral de Proteção de Dados. 25 de outubro de 2022. Disponível em: <nowiki>https://juristas.com.br/2022/10/25/o-avatar-e-a-producao-de-dados-no-metaverso-no-ambito-da-lei-geral-de-protecao-de-dados/</nowiki></ref>. Todas essas informações cruzadas, os [[metadados]], podem colaborar, inclusive no processo de vigilância em massa. Como exemplo de hardwares que captam dados pessoais sensíveis e não sensíveis, tem-se os dispositivos do Projeto Aria. Com aspecto de óculos comuns, possuem a proposta de serem imperceptíveis na vida cotidiana. Em compensação, serão dotados de sensores para captar vídeo, áudio, localização e rastreamento ocular do usuário<ref name=":2">[14] Tecmundo. Metaverso: conheça 5 dispositivos da Meta em desenvolvimento. 23 de novembro de 2021. Disponível em: <nowiki>https://www.tecmundo.com.br/redes-sociais/229248-metaverso-conheca-5-dispositivos-meta-desenvolvimento.htm</nowiki></ref>, com uma promessa de tornar a experiência de imersão cada vez melhor.
A discussão ainda está incipiente, mas vários pesquisadores e estudiosos já apontam que os dados produzidos no metaverso também serão regidos pela recente Lei Geral de Proteção de Dados (LGPD), Lei federal nº 13.709/2018.<ref name=":2" /><ref>LGPD Brasil. Metaverso e a necessidade de aplicação da LGPD. 09 de setembro de 2022. Disponível em: <nowiki>https://www.lgpdbrasil.com.br/metaverso-e-a-necessidade-de-aplicacao-da-lgpd/</nowiki> </ref> É preciso uma discussão mais ampla sobre quais dados são coletados, com qual finalidade, como eles são compartilhados, onde estão armazenados e por quanto tempo, nos termos da LGPD.

=== Experiências iniciais ===

Apesar da pouca discussão, em virtude da própria LGPD, esse assunto tem sido tratado com seriedade pela maioria das grandes empresas. As soluções encontradas até o momento para o controle de dados de crianças e adolescentes, por exemplo, têm sido limitação etária da plataforma ou controle parental<ref name=":1" />. A principal dificuldade nesse quesito situa-se em confirmar a idade de um usuário sem acessar dados biométricos ou sem esbarrar no problema do uso de dispositivos móveis de responsáveis pela criança<ref name=":1" />. Um aparelho configurado com os dados pessoais de um adulto, inclusive gostos e preferências, sendo utilizado por crianças.
Porém, no momento, as coisas ainda estão a cargo do usuário. No caso da plataforma [[Roblox]], por exemplo, [https://en.help.roblox.com/hc/pt-br/articles/115004647846-Termos-de-Uso-da-Roblox nos termos de uso não fica claro como a plataforma fará para garantir que uma criança não use a plataforma de forma indiscriminada e seus dados estejam sendo coletados ou que esteja sendo disseminada publicidade para menores.]

<blockquote>
Uso. Alguns dos atos que você pode praticar por meio do Serviço estão relacionados diretamente abaixo (o que você pode fazer efetivamente da lista abaixo dependerá de sua idade, do tipo de conta que você cadastrar, se você criar UGC e permitir o uso dessas UGC por outras pessoas e de outros fatores)

Quando você se cadastra para uma Conta ou atualiza as informações, você concorda em nos fornecer informações e idade corretas, as quais você sempre manterá atualizadas (fornecer informações incorretas constitui uma violação destes Termos)
</blockquote>
== A segurança das crianças e adolescentes no ciberespaço: Uma noção enganosa == 

=== Ciberespaço ===

A popularização da internet é considerada um evento recente e seu ápice se deu a partir da década de 90, tendo como principal característica, uma expansão abrupta. Rapidamente, o mundo tornou-se digital, sem saber de fato, como utilizá-la, para que utilizá-la e quais as sequelas decorrentes dessa utilização. O  desenvolvimento abrupto, trouxe com ele um perfil peculiar: o [[usuário prematuro]]. Esse tipo de consumidor, representou uma grande parcela da sociedade, parcela esta que estava presente na internet, especialmente, nas redes sociais, mas que quiçá sabiam utilizá-la. Toda família passou a ser inserida no contexto virtual, inclusive, os filhos menores. 

Participar de uma [[comunidade digital]], manifestava-se como uma epidemia social, instaurando-se como um movimento de confirmação de status dessa nova era. O que não se percebeu é que navegar pela internet, assemelha-se com a navegação em alto mar, em que se tem um gama quase infinita de lugares para velejar. Assim como a navegação em alto mar exige a observação de critérios de segurança essenciais, navegar pela internet de igual modo, necessita de critérios de segurança, que infelizmente não foram adotados. Com isso, pessoas mal intencionadas, verdadeiras predadoras passaram a navegar pelo ciberespaço, a fim de cometer diversos crimes cibernéticos, sobretudo, contra os usuários mais vulneráveis, às crianças e aos adolescentes. Surgiu-se então, uma problemática: a segurança de crianças e adolescentes no ambiente virtual. 

=== O uso do ciberespaço por crianças e adolescentes ===

De acordo com o Information Commissioner's Office (ICO)<ref>Information Commissioner’s Office (ICO). Design apropriado para a idade: um código de prática para serviços online. Disponível em: <nowiki>https://ico.org.uk/for-organisations/guide-to-data-protection/ico-codes-of-practice/age-appropriate-design-a-code-of-practice-for-online-services/</nowiki>  </ref>, no Reino Unido, a cada cinco usuários de internet um é uma criança. Além disso, a internet que está sendo utilizada não foi preparada para o uso delas. Diante disso, desenvolveram por lá, um Código de Prática para capacitar adultos e crianças quanto ao uso seguro do ciberespaço. Nessa linha, detecta-se que diversos países têm implantado [[mecanismos de segurança para o uso da internet]], das redes sociais, dos aplicativos e dos jogos eletrônicos, mas voltando-se para o Brasil, como anda essa barreira de proteção?
 
Vê-se corriqueiramente, diversos perfis de crianças nas redes sociais, burlando o que as empresas intitulam de “verificação de idade”, nota-se que as crianças não encontram qualquer dificuldade para ingressar numa rede social, sendo irrestritamente expostas a conteúdos que não são adequados ao seu grupo social (faixa etária). Um dado alarmante levantado pela TIC Kids Online (2021)<ref>Comitê Gestor da Internet no Brasil (Cetic br). TIC Kids Online Brasil 2021: Uso das redes sociais por crianças e adolescentes. 16 de agosto de 2022. Disponível em: <nowiki>https://cetic.br/pt/noticia/tic-kids-online-brasil-2021-78-das-criancas-e-adolescentes-conectados-usam-redes-sociais/</nowiki></ref>, aponta que no Brasil, mais de 93% das crianças e dos adolescentes utilizam a internet. Entretanto, a maioria das ferramentas digitais disponíveis, não estão preparadas para receber o público infanto-juvenil. 

Diante do acesso irrestrito as ferramentas digitais, as crianças e os adolescentes se veem vitimas dos crimes cibernéticos, sendo que a pedofilia, pornografia e o bullying virtual, os mais comuns. Os predadores vêem a internet como um mundo obscuro, no qual é possível esconder-se sem qualquer identificação. Esse imaginário, fortalece o aumento de crimes, reafirmando-se a necessidade de instrumentos que criem recursos de [[segurança cibernética para crianças e adolescentes]]. 

=== Mecanismos de Proteção das crianças e adolescentes no Ciberespaço ===

Nessa ceara, o Ordenamento patrio possui diversos diplomas legais de proteção das crianças e adolescentes, podemos citar por exemplo, a alteração legislativa aprovada pelo Congresso Nacioanal em 2008, que incluiu no Estatuto da criança e do adolescente<ref>Planalto. Estatuto da criança e do adolescente (Lei nº 8.069/1990). 13 de julho de 1990. Disponível em: <nowiki>https://www.planalto.gov.br/ccivil_03/leis/L8069compilado.htm</nowiki>  </ref>, dispositivos que punem a pedofilia e a pornografia digital. Outra legislação interna a ser clarificada refere-se a Lei Geral de Proteção de Dados (LGPD)<ref>Planalto. Lei Geral de Proteção de Dados (Lei nº 13.079/2018). 14 de agosto de 2018. Disponível em: <nowiki>https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709compilado.htm</nowiki> </ref>,  que instituiu normativas voltadas à criança e ao adolescentes, estabelecendo a obrigatoriedade de proteção dos dados pessoais de crianças e adolescentes na internet, exigindo ainda, o consentimento dos responsáveis, bem como, a utilização de políticas de privacidade. Internacionalmente, temos o Comentário Geral nº 25 do Comitê dos Direitos da Criança da ONU<ref>Criança e Consumo. Comentário nº 25 sobre direitos da criança em relação ao ambiente digital.  Abril de 2021. Disponível em: </ref> que indica medidas legislativas para assegurar o cumprimento dos direitos das crianças no ambiente digital. Entretanto, a aplicação de tais instrumentos normativos ainda se mostra ineficiente. Tal fato, pode ser evidenciado com a Pandemia da Covid-19, em que nas redes sociais, identificou-se um aumento considerável de usuários menores, sem haver, contudo, medidas efetivas de fiscalização de ingresso  e conteúdo a ser disponibilizado a esse público, contribuindo, desta forma para o aumento do cibercrime. 

Além disso, outra perspectiva a ser discutida diz respeito ao [[perfil monitorado]] pelos pais. Atualmente, verifica-se a criação de perfis de bebês que ainda estão em processo de gestação na barriga da mãe. Tal situação é evidenciada com maior frequência em relação aos pais que são influenciadores digitais. As redes sociais estão repletas de fotos de bebês que são, em muitos casos, utilizadas para anúncios publicitários. Do ponto de vista jurídico, seria caso de violação da privacidade a utilização indiscriminada de imagem? O fato é que são controvérsias recentes que demandam análise e discussão pelos operadores do direito, mas que já se manifestam no dia a dia, como é o caso da adolescente austríaca Austria’s Heute<ref>Revista Crescer Globo. Adolescente processa pais por fotos da infância publicadas na internet. 21 de setembro de 2016. Disponível em: <nowiki>https://revistacrescer.globo.com/Curiosidades/noticia/2016/09/adolescente-processa-pais-por-fotos-da-infancia-publicadas-na-internet.html</nowiki> </ref> que processou os pais por postarem 500 fotos na rede social Facebook, quando ela ainda era bebê, Austria’s alegou constrangimento. 

Pelas considerações apontadas acima, percebe-se que não se faltam dispositivos normativos, mas sim efetiva fiscalização, isto é, faz-se necessário que as empresas, àquelas presentes na internet, sobretudo, nas redes sociais, realizem um monitoramento efetivo de suas mídias sociais. A equipe técnica precisa engenhar produtos que de fato sejam projetados para as crianças e adolescentes. A fiscalização da segurança no ambiente virtual é uma tríade composta pela:  sociedade, Estado e família que devem trabalhar em conjunto para monitorar e controlar a proteção dos dados pessoais das crianças e dos adolescentes, bem como o uso da internet no ambiente virtual, sem contudo, retirar deles a autonomia e [[independência virtual]].

== Verbetes relacionados ==

* [[moderação automatizada]]
* [[moderação por humanos]]
* [[personalização de ambientes imersivos]]
* [[metaverso]]
* [[plataformas metaversas]]
* [[internet 2D]]
* [[moderação 3D]]
* [[moderação ao vivo]]
* [[moderação de anúncios]]
* [[proteção contra danos ao usuário/jogador]]
* [[detecção de fraude]]
* [[Monitoramento, relatórios e resolução em tempo real]]
* [[PLN]]
* [[avatar]]
* [[metadados]]
* [[roblox]]
* [[usuário prematuro]]
* [[comunidade digital]]
* [[mecanismos de segurança para o uso da internet]]
* [[segurança cibernética para crianças e adolescentes]]
* [[perfil monitorado]]
* [[independência virtual]]

== Referências ==
<references />
[[Categoria:Moderação 3.0]]