poliTICs 38

Editorial

Falhas algorítmicas com resultados ou injustiças graves para as pessoas já eram descritas muito antes da era dos chatbots, como os casos descritos por Cathy O'Neil oito anos antes do anúncio do chatGPT.¹

O texto imprescindível de Garrison Lovely faz uma detalhada resenha das visões e percalços do que se pode chamar de nova era da IA -- a era dos sistemas de IA generativa baseada em modelos linguísticos maciços (os LLMs, "large language models"), na percepção de seus criadores. Lovely descreve um dos maiores cientistas de "deep learning" expressando a visão pessimista que, tal como temos sido agentes da extinção de várias espécies, estamos agora a caminho da auto-extinção com a ajuda da IA.

Essa preocupação foi corroborada por um manifesto de alerta assinado pelos cientistas de ponta envolvidos com IA, cujo título praticamente sintetiza o documento: "A mitigação do risco de extinção provocado pela IA deve ser uma prioridade global, juntamente com outros riscos à escala social, como pandemias e guerra nuclear".²

Cory Doctorow menciona os riscos financeiros no campo da IA generativa. São infraestruturas de processamento, comunicação e armazenagem na escala dos grandes garimpos de criptomoedas, consumindo imensas quantidades de energia elétrica e requerendo manutenção de milhares de processadores e dispositivos de rede. É interessante lembrar que Steve Song toca no mesmo problema quanto à viabilidade econômica da rede de satélites LEO de Elon Musk.³

Esses riscos se somam aos problemas legais advindos de resultados falsos ou fraudes no atendimento por algoritmos.

Cory ainda lembra dos problemas na combinação entre operadores ou monitores humanos e os robôs de IA. Trata-se da IA assistida por humanos, ou seu reverso -- humanos assistidos por IA. Lembra também que a IA pode ser usada em aplicações de baixo risco -- por exemplo, design de jogos assistidos por IA. Ele descreve um exemplo de aplicação de alto risco com sérias consequências para os consumidores -- o atendimento ao cliente por chatbots da Air Canada, que fraudou centenas de passageiros --que leva a um resultado ainda pior: a maioria optou por não acionar a empresa por causa dos custos e a lentidão dos processos.

O coração da IA é a informação, em suas várias acepções. Nina Santos analisa em detalhe como tratar a ideia de integridade da informação, partindo da conceituação de documento das Nações Unidas que caracteriza a integridade da informação em oposição à "poluição" da informação. Basicamente, o conceito deve ser compreendido pelo seu antônimo, a desinformação intencional com objetivos políticos, militares ou outros. Para um documento do PNUD, "a integridade da informação é determinada pela precisão, consistência e confiabilidade do conteúdo da informação, processos e sistemas para manter um ecossistema de informação saudável".

A autora mostra que a conceituação requer ainda muito trabalho de aprofundamento, já que a literatura sobre o assunto vem se desenvolvendo há poucos anos, e que o uso no contexto de nosso idioma é problemático porque tem sido importado do inglês sem uma acumulação local do seu significado.

O texto de Sophie Nantanda é extremamente oportuno no contexto de um ano eleitoral, tanto nos EUA como no Brasil, ao analisar as diferentes formas e métodos que podem ser usados com as técnicas de "deep fake", produção e disseminação de desinformação alimentada por IA em inúmeros formatos e canais de comunicação. A autora lembra que "soluções tecnológicas, como ferramentas de verificação de conteúdo alimentadas por IA e algoritmos de detecção de deep fake, podem ajudar a detectar e mitigar o impacto de mídias falsas geradas por IA, mas não podem resolver o problema por si só e podem introduzir problemas adicionais".

Maria Farrell e Robin Benjon defendem a regeneração da Internet, em um isomorfismo conceitual com a regeneração de florestas devastadas. Ressaltam que o processo de concentração de poder econômico em poucas empresas internacionais trilionárias afeta profundamente a própria infraestrutura da Internet, tal como os desmatamentos para agropecuária maciça destroem os ecossistemas nos territórios. Fazem assim um chamado à regeneração, ou rewilding, da Internet.

Os pesquisadores do NIC.br fazem uma resenha primorosa do evento NETmundial+10 e de sua origem, bem como do processo de concepção da governança da Internet e do Fórum de Governança da Internet realizado anualmente pela ONU  desde 2006, em texto especial para a poliTICs.

A equipe da Dataprivacy Brasil faz um apanhado dos desafios da IA no contexto das desigualdades entre os países do Sul Global e as nações desenvolvidas, com um alerta sobre as formas de exploração da força de trabalho empregada pelas empresas de IA. Enfatiza também, como Doctorow, a importância do cuidado com o impacto ambiental da infraestrutura requerida para viabilizar os sistemas  computacionais e de rede que impulsionam os LLMs e outras formas de tratamento maciço e distribuido de dados. O texto é especialmente relevante pelo conjunto de recomendações ao G20 relacionadas à governança da IA.

Todos os textos traduzidos são acompanhados por anexos dos originais em inglês.

Boa leitura!

Obra sob licença Creative Commons . Edição 38 . Junho 2024 | Créditos/Ficha técnica