poliTICs 38

Editorial

Falhas algorítmicas com resultados ou injustiças graves para as pessoas já eram descritas muito antes da era dos chatbots, como os casos descritos por Cathy O'Neil oito anos antes do anúncio do chatGPT.1

O texto imprescindível de Garrison Lovely faz uma detalhada resenha das visões e percalços do que se pode chamar de nova era da IA -- a era dos sistemas de IA generativa baseada em modelos linguísticos maciços (os LLMs, "large language models"), na percepção de seus criadores. Lovely descreve um dos maiores cientistas de "deep learning" expressando a visão pessimista que, tal como temos sido agentes da extinção de várias espécies, estamos agora a caminho da auto-extinção com a ajuda da IA.

Essa preocupação foi corroborada por um manifesto de alerta assinado pelos cientistas de ponta envolvidos com IA, cujo título praticamente sintetiza o documento: "A mitigação do risco de extinção provocado pela IA deve ser uma prioridade global, juntamente com outros riscos à escala social, como pandemias e guerra nuclear".2

Cory Doctorow menciona os riscos financeiros no campo da IA generativa. São infraestruturas de processamento, comunicação e armazenagem na escala dos grandes garimpos de criptomoedas, consumindo imensas quantidades de energia elétrica e requerendo manutenção de milhares de processadores e dispositivos de rede. É interessante lembrar que Steve Song toca no mesmo problema quanto à viabilidade econômica da rede de satélites LEO de Elon Musk.3

Esses riscos se somam aos problemas legais advindos de resultados falsos ou fraudes no atendimento por algoritmos.

Cory ainda lembra dos problemas na combinação entre operadores ou monitores humanos e os robôs de IA. Trata-se da IA assistida por humanos, ou seu reverso -- humanos assistidos por IA. Lembra também que a IA pode ser usada em aplicações de baixo risco -- por exemplo, design de jogos assistidos por IA. Ele descreve um exemplo de aplicação de alto risco com sérias consequências para os consumidores -- o atendimento ao cliente por chatbots da Air Canada, que fraudou centenas de passageiros --que leva a um resultado ainda pior: a maioria optou por não acionar a empresa por causa dos custos e a lentidão dos processos.

O coração da IA é a informação, em suas várias acepções. Nina Santos analisa em detalhe como tratar a ideia de integridade da informação, partindo da conceituação de documento das Nações Unidas que caracteriza a integridade da informação em oposição à "poluição" da informação. Basicamente, o conceito deve ser compreendido pelo seu antônimo, a desinformação intencional com objetivos políticos, militares ou outros. Para um documento do PNUD, "a integridade da informação é determinada pela precisão, consistência e confiabilidade do conteúdo da informação, processos e sistemas para manter um ecossistema de informação saudável".

A autora mostra que a conceituação requer ainda muito trabalho de aprofundamento, já que a literatura sobre o assunto vem se desenvolvendo há poucos anos, e que o uso no contexto de nosso idioma é problemático porque tem sido importado do inglês sem uma acumulação local do seu significado.

O texto de Sophie Nantanda é extremamente oportuno no contexto de um ano eleitoral, tanto nos EUA como no Brasil, ao analisar as diferentes formas e métodos que podem ser usados com as técnicas de "deep fake", produção e disseminação de desinformação alimentada por IA em inúmeros formatos e canais de comunicação. A autora lembra que "soluções tecnológicas, como ferramentas de verificação de conteúdo alimentadas por IA e algoritmos de detecção de deep fake, podem ajudar a detectar e mitigar o impacto de mídias falsas geradas por IA, mas não podem resolver o problema por si só e podem introduzir problemas adicionais".

Maria Farrell e Robin Benjon defendem a regeneração da Internet, em um isomorfismo conceitual com a regeneração de florestas devastadas. Ressaltam que o processo de concentração de poder econômico em poucas empresas internacionais trilionárias afeta profundamente a própria infraestrutura da Internet, tal como os desmatamentos para agropecuária maciça destroem os ecossistemas nos territórios. Fazem assim um chamado à regeneração, ou rewilding, da Internet.

Os pesquisadores do NIC.br fazem uma resenha primorosa do evento NETmundial+10 e de sua origem, bem como do processo de concepção da governança da Internet e do Fórum de Governança da Internet realizado anualmente pela ONU  desde 2006, em texto especial para a poliTICs.

A equipe da Dataprivacy Brasil faz um apanhado dos desafios da IA no contexto das desigualdades entre os países do Sul Global e as nações desenvolvidas, com um alerta sobre as formas de exploração da força de trabalho empregada pelas empresas de IA. Enfatiza também, como Doctorow, a importância do cuidado com o impacto ambiental da infraestrutura requerida para viabilizar os sistemas  computacionais e de rede que impulsionam os LLMs e outras formas de tratamento maciço e distribuido de dados. O texto é especialmente relevante pelo conjunto de recomendações ao G20 relacionadas à governança da IA.

Todos os textos traduzidos são acompanhados por anexos dos originais em inglês.

Boa leitura!

1. Cathy O'Neil, Weapons of Math Destruction, Nova York: Crown Publishers, 2016.


Obra sob licença Creative Commons . Edição 38 . Junho 2024 | Créditos/Ficha técnica


 
Garrison Lovely * - Traduzido do original em https://jacobin.com/2024/01/can-humanity-survive-aiCom o desenvolvimento da inteligência artificial (IA) avançando a uma velocidade vertiginosa, alguns dos homens mais ricos do mundo podem estar decidindo o destino da humanidade neste momento.O…
 
Cory Doctorow *Traduzido do original em https://pluralistic.net/2024/04/23/maximal-plausibility/#reverse-centau…Se a inteligência artificial (IA) tiver futuro (um grande "se"), terá de ser economicamente viável. Uma indústria não pode gastar 1.700% mais em chips Nvidia do que ganha indefinidamente…
 
Nina Santos* - Traduzido do original em https://www.techpolicy.press/why-do-we-need-to-discuss-sovocation-infor…O termo “integridade da informação” é cada vez mais empregado, especialmente por organizações internacionais1 e organizações que desenvolvem planos para combater a desinformação…
 
Sophie Nyombi Nantanda, estagiária de primavera da EPIC - Tradução do original em https://epic.org/safeguarding-democratic-elections-in-the-age-of-ai/À medida que as eleições nacionais se aproximam nos Estados Unidos, as preocupações sobre chamadas de robôs geradas por inteligência…
 
Maria Farrell e Robin Berjon * - Tradução do original em https://www.noemamag.com/we-need-to-rewild-the-Internet/A Internet tornou-se uma monocultura extrativa e frágil. Mas podemos revitalizá-la usando as lições aprendidas pelos ecologistas.“A palavra para mundo é floresta” - Ursula K. Le…
 
(...) 1, Everton T. Rodrigues 2, Flávio R. Wagner 3, Vinicius W. O. Santos 4A crescente complexidade das discussões relacionadas à Internet e seus mecanismos de governança tem nos anos de 2024 e 2025 um momento crítico. Diferentes espaços competem pelo protagonismo da discussão de temas caros ao…
 
Adeboye Adegoke 1, Bruno Bioni 2, Fernanda K. Martins 3, Júlia Mendonça 4, Paula Guedes 5, Tainá Junquilho 6Este ensaio é uma versão textual estendida da participação dos coautores do T20 no evento paralelo do G20 sobre "Aproveitando a Inteligência Artificial para a Equidade Social e o…