Governança da inteligência artificial (IA): a interação entre o local, o regional e o global em direção a uma solidariedade transnacional

Adeboye Adegoke ¹, Bruno Bioni ², Fernanda K. Martins ³, Júlia Mendonça ⁴, Paula Guedes ⁵, Tainá Junquilho ⁶

Este ensaio é uma versão textual estendida da participação dos coautores do T20 no evento paralelo do G20 sobre "Aproveitando a Inteligência Artificial para a Equidade Social e o Desenvolvimento Sustentável": https://www.g20.org/en/calendar/side-events/aproveitando-a-inteligência…

Introdução: geopolítica da IA

Para escrever sobre a governança global da IA é necessário refletir sobre como combinar o contexto nacional com o internacional⁷. Milton Santos, intelectual brasileiro e um dos principais acadêmicos do mundo no tema da globalização, enfatiza a interdependência entre o local e o global, argumentando que um não existe sem o outro de forma que ambos se influenciam em um processo de realimentação⁸. Segundo Santos, existem de fato espaços de globalização onde a geopolítica favorece uns e exclui outros com base nas virtualidades-potencialidades de certos grupos em detrimento de outros. Esta parece ser a questão subjacente à governança da IA e a questão mais premente de todos os fóruns nacionais e internacionais de elaboração de políticas. Então, essa tecnologia poderia evitar tornar aqueles que já são periféricos ainda mais periféricos devido à dinâmica desigual tecnologia-poder, como ocorreu em outros momentos da nossa história e que ainda hoje persiste?

Neste contexto, o debate atual deve centrar-se numa relação dinâmica emancipatória entre políticas regulatórias locais, regionais e globais no contexto da IA. Por esta razão, é preciso reconhecer que as iniciativas de regulação locais e regionais desempenham um papel fundamental na definição do desenvolvimento tecnológico e na proteção dos direitos humanos, enquanto o panorama global influencia, tanto negativa como positivamente, estes movimentos de governança através dos chamados processos regulatórios, normativos, e de interoperabilidade técnica. Caso contrário, o progresso tecnológico da IA reproduziria ou ampliaria as divisões técnico-econômicas já existentes.

Principais áreas de políticas para a equidade social e o desenvolvimento sustentável

O G20 deveria promover um programa global de desenvolvimento de capacidades que responda às necessidades dos países desfavorecidos do sul global, capacitando-os para avaliar os potenciais impactos sociais, econômicos e ambientais das tecnologias para mitigar os riscos e maximizar o potencial da transformação digital. As estratégias locais e globais devem promover e dar prioridade à IA que promova a equidade social e, portanto, uma abordagem centrada no ser humano para enfrentar "os maiores desafios do mundo, nomeadamente, mas não limitados, à crise climática, à saúde global e à educação"⁹. Neste sentido, as Nações Unidas têm pressionado pela priorização da IA orientada à aceleração dos Objetivos de Desenvolvimento Sustentável (ODS)¹⁰.

Os países do G20 devem reforçar a cooperação internacional em matéria de IA, baseada em um equilíbrio entre a proteção dos direitos das comunidades vulneráveis e a dignidade do trabalho que sustenta os sistemas de IA. Os países devem apoiar a investigação sobre a qualidade e dignidade do trabalho envolvendo dados, a liberdade de associação dos trabalhadores digitais e políticas sobre programas de requalificação centrados nas mulheres e nos grupos minoritários. A promoção dos ODS deve preocupar-se com a infraestrutura humana da IA com trabalho digno e qualidade de vida para a cidadania. Isto envolve diferentes formas de trabalho no ciclo de vida da IA, incluindo trabalho de identificação de dados e outras formas de trabalho terceirizadas no Sul Global.

A cooperação global também é necessária para resolver o chamado paradoxo ambiental da IA¹¹. Se, por um lado, a IA pode ser poderosa para automatizar com alta precisão o desmatamento e prever desastres climáticos, por outro lado, alguns modelos específicos consomem enormes volumes de recursos naturais. Cálculos computacionais complexos, especialmente de grandes modelos de linguagem (LLM)¹², têm um enorme impacto nas emissões de gases de efeito estufa. Isso porque funcionam com hardware de alto desempenho e grande infraestrutura de aglomerados de computação, consumindo muita eletricidade e água para refrigeração. Além de considerar a compensação fiscal ambiental para grandes modelos de linguagem de IA, o G20 deveria apoiar o conhecimento científico-interdisciplinar em escala global, semelhante ao Painel Intergovernamental Sobre Mudanças Climáticas (IPCC), como propôs o órgão consultivo de IA da ONU¹³.

Além disso, os países do G20 deveriam considerar a proibição do gasto de recursos públicos a sistemas de IA que perpetuam a injustiça social. Por exemplo, em países como o Brasil, houve um aumento significativo na implementação de tecnologia de reconhecimento facial pelas agências de aplicação da lei¹⁴. Estes sistemas de IA exacerbam frequentemente a insegurança em vez de aumentarem a segurança, levando a detenções injustas e reforçando o racismo sistêmico que afeta particularmente a população afrodescendente. Entretanto, outros sistemas de IA com potencial para mitigar a letalidade policial e aumentar a transparência nas operações policiais, como os integrados com dados das câmaras corporais da polícia, têm sido largamente ignorados. Idealmente, a IA deveria servir como uma ferramenta de contra-vigilância para aumentar a segurança daqueles que foram historicamente marginalizados e vigiados, concretizando o que ficou conhecido como AI4SG (Inteligência Artificial para Bens Sociais)¹⁵.

Por último, a cooperação internacional deve encorajar o desenvolvimento e a utilização da IA em vários idiomas, ecoando as recentes discussões entre o presidente brasileiro Lula e o primeiro-ministro espanhol¹⁶. Governar a IA vai além da garantia de segurança e confiança; envolve também prevenir uma divisão epistemológica entre o Sul e o Norte globais. Isto requer uma dedicação coletiva para alavancar a IA para o bem comum, evitando ao mesmo tempo a perpetuação das desigualdades e divisões existentes. A verdadeira transformação global através da IA só pode ser alcançada através de uma governança inclusiva e da igualdade de acesso.

A necessária interação entre hard e soft law¹⁷: dos princípios éticos a uma governança eficaz e democrática¹⁸

Os desenvolvimentos recentes na governança da IA sublinham a necessidade de medidas regulamentares que vão além da mera confiança em valores éticos e no cumprimento voluntário. A convergência das leis nacionais com os quadros internacionais deve não só reconhecer, mas também desencadear uma governança eficaz dos riscos globais associados à IA.

Conforme descrito nos princípios de IA do G20 de 2019, na Declaração de Hiroshima e na Declaração de Bletchley do G7em 2023¹⁹, o reconhecimento dos riscos inerentes à IA que afetam todos a nível internacional sublinha a necessidade de uma ação coordenada além-fronteiras. Neste sentido, o recente alerta do secretário dos EUA enfatiza a necessidade urgente de regulamentar a IA para evitar que ela nos governe²⁰. Isto está alinhado com o recente lançamento da Resolução da ONU: “Aproveitar as oportunidades de sistemas de inteligência artificial seguros, protegidos e confiáveis para o desenvolvimento sustentável”²¹. A Resolução sublinha a importância de respeitar os direitos humanos ao longo de todo o ciclo de vida da IA, exortando as nações e as partes interessadas a evitarem sistemas de IA que violem os direitos humanos ou ponham em perigo grupos vulneráveis, tanto online como offline. Pode o G20 impor pelo menos uma moratória contra o reconhecimento facial para efeitos de aplicação da lei, uma vez que esses sistemas estão amplificando preconceitos e causando ainda mais insegurança para a sociedade?

No atual panorama da governança da IA, deve haver uma mudança notável no sentido da convergência de medidas nacionais de hard law com quadros internacionais de soft law, a serem orientadas numa lógica afirmativa baseada nos direitos humanos. Caso contrário, não haverá um esboço de medidas concretas para evitar uma onda tecnológica opressiva.

Há quase quatro anos, a Unesco estabeleceu a centralidade das ferramentas de governança, como as avaliações de impacto algorítmicas. Hoje, o Grupo de Trabalho sobre Economia Digital do G20 está discutindo um conjunto de ferramentas para avaliar e mapear a IA para melhorar os serviços públicos. Localmente, a nível nacional, a Ordem Executiva de Biden, a Lei da União Europeia sobre IA e as propostas regulamentares do Canadá e do Brasil tornaram ou procuraram tornar esse tipo de avaliação obrigatória para riscos elevados de IA com escrutínio público. Um movimento progressista que procura um tipo de governança democrática local e global com governança em rede multissetorial e multidisciplinar.

Existem várias respostas de convergência locais e transnacionais que visam reduzir a assimetria de informação em jogo. Por exemplo, a recente resolução da ONU sobre IA que propõe a criação de um Comitê de IA para a Lei de Serviços Digitais (DSA) da UE, e o projeto de lei brasileiro de IA²² que buscam requerer que pesquisas adquiridas permitam acesso a dados para uma melhor compreensão dos algoritmos. Neste sentido, deve haver interoperabilidade regulamentar com ênfase no escrutínio público e, em última análise, na deliberação social para determinar quais são os riscos aceitáveis e como maximizar os benefícios reais e não especulativos das tecnologias de IA.

A abordagem acima mencionada deve basear-se na tradição jurídica enraizada na regulação ambiental e na justiça territorial e, portanto, defendendo a inclusão das vozes afetadas e dos grupos vulneráveis nesse diálogo sobre governança. Caso contrário, não haverá uma verdadeira responsabilização devido à falta de um fórum público para avaliar se os sistemas de IA representam riscos globais e/ou locais toleráveis, bem como benefícios reais e substantivos para a sociedade.

Em conclusão, o desafio global, tanto a nível nacional como internacional, depende da escassez de evidênciase de colaboração para governar a IA e não ser governado por ela. Enfrentar este desafio requer abordagens multifacetadas e ação coletiva. A proposta apresentada pelo Painel de Alto Nível sobre IA oferece um passo concreto para o estabelecimento de um órgão multilateral semelhante ao IPCC, reunindo cientistas de diversas origens para produzir conhecimento como um bem comum global no domínio da IA.

Interoperabilidade regulatória: governança de dados e uma abordagem normativa adaptativa

No contexto do Pacto Digital Global (GDC), o G20 e a ONU devem estabelecer uma posição comum sobre a governança de dados e adotar um quadro de referência para avaliar os potenciais benefícios e danos da utilização de dados, incluindo a IA. Para permitir que a transformação digital obtenha o máximo valor público possível, os instrumentos de governança devem ser desenvolvidos, implementados e monitorados através de processos inclusivos e participativos. A implementação em etapas de novas abordagens de governança – começando por setores como a saúde – ajudará a testar os seus benefícios em contextos específicos, a minimizar potenciais danos e a construir a confiança do público. O G20 tem a responsabilidade coletiva de garantir que as práticas digitais melhoram a vida de todas as pessoas e que os danos são prevenidos de forma mais eficaz. A solidariedade de dados fornece um modelo de como fazer isto acontecer e oferece um quadro para alinhar diversas abordagens de governança com um objetivo comum²³. Um conjunto de instrumentos políticos propostos para concretizar a solidariedade de dados, bem como uma ferramenta para avaliar o valor público da utilização de dados, foi desenvolvido e poderia ser prontamente implementado em todos os países do G20.

O G20 também deve fornecer um quadro comum e recursos financeiros para a governança participativa e a conceção conjunta dessas infraestruturas, que devem ser transparentes, responsáveis, interoperáveis e, de preferência, de acesso aberto. Deve haver um entendimento comum e uma cooperação transfronteiriça entre o Norte e o Sul globais para uma maturidade eficaz da governança de dados. Uma forte colaboração entre as partes interessadas ao longo de todo o ciclo de vida da informação, através de políticas de dados abertas e de uma abordagem centrada no cidadão, é essencial para garantir que o interesse público impulsione os dados (justiça de dados) e não o contrário.

Além disso, o G20 deve propor abordagens regulamentares que sejam flexíveis, adaptáveis e holísticas relativamente a todos os componentes da governança da IA, permitindo testes rápidos e ajustamentos em resposta a efeitos inibidores, riscos emergentes e novos desafios. Ao apoiar quadros regulamentares adaptativos, o G20 pode criar um ambiente propício à inovação, assegurando ao mesmo tempo que as tecnologias de IA sejam desenvolvidas e implementadas de uma forma ética, responsável e respeitadora dos direitos humanos, avançando assim os ODS e satisfazendo as necessidades da maioria global.

O G20 deve adotar uma abordagem colaborativa e multilateral nos esforços de governança da IA, incluindo o desenvolvimento de normas para ferramentas de avaliação de riscos da indústria. O G20 deveria recomendar auditorias algorítmicas obrigatórias para sistemas de IA de alto risco.

O G20 deveria:

• apelar a uma avaliação de impacto da IA em vários níveis, abrangendo questões jurídicas e sócio-éticas²⁴;
• definir as melhores práticas para este exercício, incluindo o papel da participação das partes interessadas na conceção conjunta de sistemas de IA;
• promover a transparência na gestão de riscos;
• aprofundar a componente jurídica e sócio-ética da avaliação, baseando-se em soluções operacionais universais e quantificação para avaliações de impacto nos direitos humanos, articulando ao mesmo tempo o papel das diferentes partes interessadas para colmatar a lacuna entre as necessidades regulamentares e a promoção da inovação.

Isto deve incluir a implementação de uma estratégia inovadora de risco-oportunidade para gerir o impacto da IA nos mercados de trabalho do Sul Global.

Além disso, é importante sublinhar que as avaliações de impacto são um meio para atingir um fim e não um fim em si mesmas. A este respeito, os acadêmicos e a sociedade civil na maior parte do mundo necessitam de recursos não só para fazer cumprir estes mecanismos, mas também para realizar investigação empírica com base nas evidências que fornecem. Consequentemente, tanto a concepção de tecnologias como a investigação conduzida para responsabilizar os criadores de tecnologias precisam de ser mais representativas e orientadas para a comunidade. Por exemplo, a maior parte do mundo precisa realmente de ter os seus próprios painéis de referência e implementar métodos qualitativos mais inclusivos que não estão sendo abrangidos pelo trabalho atual no terreno.

Conclusão

Embora a interoperabilidade técnica e regulamentar seja essencial, a sua realização deve ser abordada com cautela para evitar um ressurgimento da colonização, onde as normas e padrões técnicos globais dominantes sufocam as abordagens e requisitos locais e regionais. Em vez disso, deveríamos esforçar-nos por estabelecer mecanismos de emancipação e autodeterminação em que todas as partes interessadas contribuam equitativamente para a criação de um ecossistema que promova tanto a inovação como os direitos humanos.

Esta abordagem reconhece a diversidade de valores, culturas e interesses envolvidos na governança da IA, com o objetivo de encontrar um equilíbrio que incentive o avanço tecnológico responsável, salvaguardando simultaneamente os direitos fundamentais. As principais considerações incluem:

• a interligação entre as leis nacionais e a legislação não vinculativa internacional enraizadas nos direitos humanos e, mais especificamente, explorando a relação entre a justiça de dados e a transformação digital inclusiva. Além disso, enfatizando a natureza do conceito centrada na cidadania, tendo em conta as assimetrias históricas de poder relativas à exclusão digital já existente e às epistemologias em desfavor do Sul Global;
• avaliação de impacto algorítmica obrigatória que abranja questões jurídicas e sócio-éticas para a IA de alto risco e a implementação de outras ferramentas de governança para reduzir a assimetria de informação, a fim de estabelecer uma governança democrática com escrutínio público;
• a interação entre a regulamentação global-local e as políticas públicas internacionais-nacionais para promover IA que estimulem a justiça social e os nossos problemas sociais mais urgentes, nomeadamente, mas não limitados, à crise climática, à saúde global, às desigualdades de gênero, à integridade da informação e ao trabalho digno.

Estes valores e pilares normativos são essenciais para estabelecer uma governança da IA que não seja opressiva, mas sim emancipatória, promovendo laços de solidariedade e garantindo o desenvolvimento seguro e fiável e a implantação destas tecnologias numa perspectiva ecológica. Acima de tudo, visam prevenir a exacerbação das desigualdades e a potencial emergência do apartheid epistemológico entre o Norte e o Sul globais.