Mundos virtuais, pessoas reais: direitos humanos no metaverso

Mundos virtuais, pessoas reais

Access Now1  em 09-12-2021

Data da publicação: março 2022

No dia 10 de dezembro é celebrado o Dia Internacional dos Direitos Humanos. Nesse dia de 1948, a Assembleia Geral da ONU adotou a Declaração Universal dos Direitos Humanos2, o documento que estabelece os princípios e as bases dos instrumentos de direitos humanos atuais e futuros. Em homenagem a este aniversário, a Access Now e a Electronic Frontier Foundation (EFF)3 conclamam governos e empresas a abordar os direitos humanos no contexto da realidade virtual e aumentada4 (RV e RA5) e garantir que esses direitos sejam respeitados e aplicados.

As tecnologias de realidade estendida6 (RE), incluindo realidade virtual e aumentada, são a base de ambientes digitais emergentes, incluindo o chamado metaverso. Elas ainda estão em um estágio inicial de desenvolvimento e adoção, mas as empresas que conformam a "Big Tech" estão investindo pesadamente nessas tecnologias7, e há uma corrida para conquistar o domínio e consolidar os monopólios do que os investidores e executivos de tecnologia afirmam ser a próxima geração de computação e de mídia social.

Como qualquer outra tecnologia, a RE pode ter muitos impactos positivos em nossas vidas diárias. Pode ser uma ferramenta útil em áreas como medicina8, ciência9 e educação10. Os artistas estão usando RE de maneira criativa para transformar os mundos virtuais em sua tela e criar novas formas de expressão. Protestos e movimentos sociais também têm usado essas tecnologias para aumentar a consciência sobre questões coletivas ou para fazer ouvir sua voz em situações em que essa prática é fisicamente impossível ou perigosa11.

No entanto, a RE também representa riscos substanciais para os direitos humanos. Fones de ouvido RV e óculos RA, juntamente com outros “wearables”, podem agravar o cenário de coleta de dados cada vez mais invasiva e de vigilância onipresente12. Esta coleta de dados, às vezes feita por empresas que priorizam o lucro em detrimento das proteções13, prepara o terreno para invasões sem precedentes em nossas vidas, nossas casas e até mesmo em nossos pensamentos, já que os dados coletados por dispositivos RE são usados para publicidade direcionada e para permitir novos formas de “psicografia biométrica”14 — inferir nossos desejos e inclinações mais profundos. Uma vez coletados, há pouco que os usuários podem fazer para mitigar os danos causados por vazamentos de dados ou dados sendo monetizados por terceiros. Esses dispositivos também coletarão grandes quantidades de dados sobre nossos lares e espaços privados e podem permitir que governos, empresas e agentes da lei tenham acesso ilegítimo a nossas vidas15, exacerbando as já severas invasões em nossa privacidade.

Essas novas tecnologias também criam novos caminhos para o assédio e o abuso online16. Os óculos RA podem minar drasticamente as expectativas de privacidade em espaços públicos e privados. Uma pessoa que usa os óculos pode gravar facilmente o que está ao seu redor em segredo17, o que pode tornar-se ainda mais perigoso se tecnologias de vigilância, como reconhecimento facial18, forem incorporadas.

Aprendemos muitas lições com tudo que deu errado e certo com a geração atual de dispositivos inteligentes e mídia social, e precisamos aplicar essas lições agora para garantir que todos possam tirar proveito das tecnologias RE e do metaverso sem sacrificar direitos humanos fundamentais que temos que preservar.

Aqui estão os tópicos que merecem cuidadosa e urgente consideração:

  • Sabemos que a autorregulação sobre proteção de dados e diretrizes éticas não são suficientes para conter os danos causados pela tecnologia.

  • Sabemos que precisamos que os padrões de direitos humanos sejam centrais no desenvolvimentos da RE para garantir que nossos direitos não sejam apenas respeitados, mas também estendidos ao metaverso.

  • Precisamos de regulamentação e aplicação adequadas para proteger a privacidade e outros direitos humanos das pessoas no metaverso.

  • Também precisamos nutrir a tecnologia de base respeitadora dos direitos que vem sendo desenvolvida hoje. Os legisladores precisam estar atentos para que as grandes empresas de tecnologia não engulam todos os seus concorrentes antes que eles tenham a chance de desenvolver alternativas que respeitem os direitos das plataformas dominantes orientadas para a vigilância.

Para este fim, pedimos aos governos que garantam que as proteções contra o alcance amplo e a intrusão estatal e corporativa se apliquem ao RE, como segue:

  • Os governos devem promulgar ou atualizar a legislação de proteção de dados que limite a coleta e o processamento de dados para incluir dados gerados e coletados por sistemas de RE, incluindo inferências médicas ou psicográficas19. Os governos devem definir claramente esses dados como dados pessoais sensíveis e fortemente protegidos de acordo com a lei, mesmo quando não qualifiquem para serem classificados como dados biométricos, pessoais ou informações de identificação pessoal de acordo com a legislação atual. A legislação deve reconhecer que os sistemas de RE podem ser usados para fazer inferências problemáticas e invasivas20 sobre nossos pensamentos, emoções, inclinações e vida mental privada21.

  • Autoridades independentes responsáveis devem agir para fazer cumprir as leis de proteção de dados e proteger os direitos das pessoas. Pesquisas mostram que as "escolhas" de privacidade das pessoas para permitir que as empresas processem seus dados são normalmente involuntárias22, sujeitas a vieses cognitivos e/ou contornáveis devido a limitações humanas, padrões obscuros23, lacunas legais e as complexidades do processamento de dados moderno. As autoridades devem exigir transparência e controle não apenas sobre os dados coletados, mas também sobre o uso ou divulgação das inferências que a plataforma fará sobre os usuários (seu comportamento, emoções, personalidade etc), incluindo o processamento de dados pessoais em segundo plano. Assim, o paradigma legal de notificação e escolha, tal como é praticado hoje, precisa ser desafiado.

  • O metaverso não deve pertencer a nenhuma empresa. Os reguladores da concorrência devem tomar medidas para salvaguardar a diversidade de plataformas de metaverso e evitar monopólios sobre infraestrutura e hardware, para que os usuários não se sintam presos a uma determinada plataforma para desfrutar de plena participação na vida cívica, pessoal, educacional, social ou comercial, ou sentir que eles têm que tolerar essas falhas para permanecer conectados aos espaços vitais da existência humana. Essas intervenções pró-competitivas devem incluir escrutínio de fusões, separação estrutural de empresas dominantes de elementos adjacentes de suas cadeias de abastecimento, proibições de conduta anticoncorrencial, como preços predatórios, interoperabilidade obrigatória de protocolos-chave e estruturas de dados e salvaguardas legais para operadores que usam engenharia reversa e outra “interoperabilidade adversária” para melhorar a segurança, acessibilidade e privacidade de um serviço. Esta não é uma lista exaustiva e, se as tecnologias do metaverso se consolidarem, quase certamente darão origem a novos direitos humanos, preocupações e soluções de concorrência específicos das novas tecnologias.

  • Os governos devem garantir que os 13 Princípios Internacionais sobre a Aplicação dos Direitos Humanos à Vigilância das Comunicações24 sejam aplicados, os privilégios existentes contra a intrusão do governo sejam reafirmados e as proteções legais sejam estendidas a outros tipos de dados, como dados psicográficos e comportamentais e inferências extraídas deles.

  • Os governos devem aumentar a transparência em torno do uso de RE. À medida que os governos começam a usar o RE para treinamento e simulações, deliberação e tomada de decisões e reuniões públicas, novos tipos de informações serão produzidos que constituirão registros públicos que devem ser ofertados ao público de acordo com as leis de liberdade de informação.

  • À medida que as tecnologias RE se tornam onipresentes, as empresas devem respeitar e os governos devem proteger o direito das pessoas de reparar, alterar ou investigar a funcionalidade de seus próprios dispositivos.

  • Como na vida real, os governos devem abster-se de censurar a liberdade de expressão e inibir as liberdades jornalísticas e, em vez disso, encorajar trocas participativas no mercado de ideias. Com o surgimento de iniciativas regulatórias em todo o mundo que ameaçam prejudicar a liberdade de expressão, é fundamental aderir a medidas proporcionais, consistentes com os Princípios de Santa Clara25, equilibrando objetivos legítimos com a liberdade de receber e divulgar informações.

As empresas têm a responsabilidade de defender os direitos humanos de acordo com os Princípios Orientadores sobre Negócios e Direitos Humanos da ONU26, um padrão global de “conduta esperada para todas as empresas onde quer que operem”, aplicável em todas as situações.

A responsabilidade corporativa de respeitar os direitos humanos também significa abordar os impactos adversos que podem ocorrer, como segue:

  • As empresas devem se comprometer publicamente a requerer que os governos sigam o processo legal necessário para acessar os dados de RE27, notificar os usuários quando permitido por lei, publicar regularmente relatórios de transparência, utilizar criptografia (sem backdoors) e lutar para limitar os dados que podem ser acessados ao que é necessário, adequado e proporcional.

  • As empresas, incluindo fabricantes e fornecedores, não devem apenas proteger o direito de seus usuários à privacidade contra a vigilância do governo28, mas também o direito de seus usuários à proteção de dados. Eles devem resistir ao impulso, muito comum no Vale do Silício, de “coletar tudo”, caso possa ser útil mais tarde. Em vez disso, as empresas devem aplicar princípios estritos de minimização de dados (privacy-by-design), coletando apenas o que é necessário para a funcionalidade de base ou para fornecer serviços específicos que os usuários solicitaram e concordaram, e retendo-os apenas pelo tempo necessário. Quanto menos dados as empresas coletam e armazenam agora, menos problemas inesperados surgirão posteriormente se os dados forem roubados, violados, reaproveitados ou apreendidos por governos. Qualquer processamento de dados também deve ser justo e proporcional.

  • As empresas devem ser claras com os usuários sobre quem tem acesso aos seus dados, incluindo dados compartilhados como parte dos contratos de emprego ou matrícula escolar, e adotar políticas de transparência fortes, declarando explicitamente as finalidades e os meios de processamento de dados, e permitindo que os usuários acessar e transferir seus dados com segurança.

  • O desenvolvimento e a implantação da tecnologia RE devem ser examinados para identificar e abordar os riscos potenciais aos direitos humanos e garantir transparência, proporcionalidade, justiça e equidade.

Para investidores:

  • Os investidores devem avaliar seus portfólios para determinar onde podem investir em tecnologias de RE e usar sua influência para garantir que as empresas do portfólio sigam os padrões de direitos humanos no desenvolvimento e implantação de tecnologias de RE.

Ativistas de direitos digitais e a comunidade de RE em geral têm um papel significativo a desempenhar na proteção dos direitos humanos, como segue:

  • Os entusiastas e analistas de RE devem priorizar dispositivos abertos e que levem em conta a privacidade, mesmo que sejam apenas acessórios de entretenimento. Ativistas e pesquisadores devem concentrar-se na criação de um futuro em que as tecnologias de RE tenham em conta os melhores interesses dos usuários e da sociedade em geral.

  • Defensores e ativistas dos direitos digitais devem começar a investigar tecnologias de RE agora e fazer suas demandas serem ouvidas por empresas e reguladores, para que sua experiência possam informar desenvolvimentos e proteções governamentais neste estágio inicial.

  • As comunidades de RE devem educar-se sobre as implicações sociais e de direitos humanos das tecnologias que estão desenvolvendo e comprometerem-se com práticas responsáveis.

Nossos dados em RE devem ser usados em nossos próprios interesses, não para prejudicar-nos ou manipular-nos. Não vamos deixar a promessa da próxima geração de computação falhar da mesma forma que a geração anterior. O futuro é amanhã, então vamos torná-lo um futuro em que gostaríamos de viver.

--

1 Tradução do original “Virtual worlds, real people: human rights in the metaverse”, https://www.accessnow.org/human-rights-metaverse-virtual-augmented-reality/
2 https://www.un.org/en/observances/human-rights-day/know-your-rights
3 https://www.eff.org/
4 https://www.accessnow.org/what-is-augmented-reality-risks/
5 https://www.eff.org/deeplinks/2020/10/augmented-reality-must-have-augmen...
6 https://www.eff.org/issues/xr
7 https://www.wsj.com/articles/big-tech-seeks-its-next-fortune-in-the-meta...
8 https://www.theverge.com/2021/10/20/22736894/fda-vr-tv-movies-treatment-...
9 https://www.caltech.edu/about/news/virtual-reality-scientists
10 https://gupea.ub.gu.se/bitstream/2077/39977/1/gupea_2077_39977_1.pdf
11 https://docubase.mit.edu/project/ar-occupy-wall-street/
12 https://rd.springer.com/chapter/10.1007/978-3-030-42504-3_16
13 https://www.theguardian.com/technology/2021/oct/03/former-facebook-emplo...
14 https://scholarship.law.vanderbilt.edu/cgi/viewcontent.cgi?article=1000&...
15 https://www.eff.org/deeplinks/2020/10/come-back-warrant-my-virtual-house
16 https://jessica-outlaw.medium.com/harassment-in-social-vr-stories-from-s...
17 https://www.accessnow.org/facebook-ray-ban-stories-smart-glasses-privacy...
18 https://www.eff.org/deeplinks/2020/10/augmented-reality-must-have-augmen...
19 https://scholarship.law.vanderbilt.edu/jetlaw/vol23/iss1/1/
20 https://scholar.google.com/citations?view_op=view_citation&hl=en&user=DA...
21 https://www.youtube.com/watch?v=pIpD4-gYImU
22 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3881776
23 https://www.eff.org/deeplinks/2021/05/help-bring-dark-patterns-light
24 https://necessaryandproportionate.org/principles/
25 https://santaclaraprinciples.org/
26 https://www.ohchr.org/documents/publications/guidingprinciplesbusinesshr...
27 https://www.eff.org/deeplinks/2020/10/come-back-warrant-my-virtual-house
28 https://www.eff.org/who-has-your-back-2017