ChatGPT: O que resta de humano nos direitos humanos?
César Rodríguez-Garavito, editor-chefe da OpenGlobalRights, professor de Direito Clínico e presidente do Centro de Direitos Humanos e Justiça Global da Escola de Direito da Universidade de Nova York.
Data da publicação: julho 2023
Abro a janela do ChatGPT e peço que escreva um ensaio de mil palavras para a Open Global Rights explicando três oportunidades e três desafios que sua inteligência artificial representa para os direitos humanos. Vacila por um momento, como se hesitasse, mas logo começa a responder com uma frase contundente: “O ChatGPT já causou um impacto significativo no mundo dos direitos humanos.”
Fico impressionado com a autoconfiança dessa jovem criatura e como ela se refere a si mesma na terceira pessoa, à maneira de alguns políticos. Mas devo reconhecer o quão precisa foi a resposta. Se fosse de um aluno em um exame, com certeza eu daria uma boa nota.
Talvez essa ambigüidade – essa mistura de fascínio e estranheza, polvilhada com doses variadas de suspeita e pavor, dependendo do tema e do dia – seja o tom que domina o debate emergente sobre as implicações de direitos humanos de modelos de linguagem como o ChatGPT. É o que mostram os ensaios que inauguram a série da Open Global Rights sobre o tema: a inteligência artificial generativa pode aumentar a desinformação e as mentiras online, mas também ser uma formidável ferramenta para o exercício legal da liberdade de expressão; pode proteger ou minar os direitos de migrantes e refugiados, dependendo se é usado para monitorá-los ou para detectar padrões de abuso contra eles; e pode ser útil para grupos tradicionalmente marginalizados, mas também pode aumentar os riscos de discriminação contra a comunidade LBGBTI+, cujas identidades fluidas muitas vezes não se encaixam nas caixas algorítmicas de AIs.
Percebo uma ambigüidade semelhante na resposta do ChatGPT — o que era de se esperar, considerando que é um modelo de linguagem que sintetiza (alguns diriam que rouba)1 ideias compartilhadas por humanos na web. Com disciplina, destaca três contribuições de sua tecnologia para os direitos humanos: maior acesso à informação, melhores traduções entre idiomas e mais análise de dados e previsão de tendências sobre temas relevantes, avanços que facilitam a investigação e denúncia de violações de direitos ao redor do mundo. E fecha com três riscos: que reproduza os enviesamentos da informação que devora, que viole a privacidade através da utilização de dados pessoais e que se preste a abusos porque “o ChatGPT pode ser difícil de compreender e analisar, tornando-o desafiador responsabilizar os responsáveis por seu uso”. Note que se refere à responsabilidade dos usuários, não das corporações que criaram a tecnologia, que ainda relutam em revelar o que sabem e o que não sabem sobre como ela funciona. Talvez eles tenham programado a criança para não renegar seus pais.
Embora esses efeitos sejam importantes, acho que os analistas, tanto humanos quanto virtuais, tendem a registrar o terremoto, mas perdem de vista as placas tectônicas que estão se movendo sob a superfície. Na realidade, a IA generativa não apenas aguça os impactos conhecidos, mas questiona as categorias básicas que dão sentido aos direitos humanos.
Basta examinar a resposta do ChatGPT para trazer algumas dessas questões à tona. “O ChatGPT tem o potencial de fornecer acesso a informações para pessoas que, de outra forma, não teriam”, diz-me como se falasse de outra pessoa. “Ao fornecer informações precisas e oportunas, o ChatGPT pode ajudar as pessoas a tomar decisões informadas e agir para proteger seus direitos.”
O que meu novo assistente virtual não menciona é que seus superpoderes são bons tanto para informação quanto para desinformação. O risco imediato da IA desregulamentada é que os mesmos atores e empresas que fabricam ou disseminam as mentiras que abalaram as democracias e os direitos humanos agora o farão em uma escala infinitamente maior, confundindo ainda mais a linha entre o que é verdadeiro ou falso. Se a esfera pública acabar inundada com textos tão impecáveis quanto falaciosos, ou imagens e vídeos tão verossímeis quanto mentirosos, a velha tática dos direitos humanos de falar a verdade ao poder também será abafada. Modelos como ChatGPT não são papagaios estocásticos, mas potenciais hackers dos códigos linguísticos humanos nos quais concebemos direitos e todas as nossas normas e crenças.2
O que nos leva ao outro ponto cego do debate: a transformação do humano em direitos humanos. A ênfase da discussão do ChatGPT tem sido sobre o “que”, sobre os direitos afetados pela nova tecnologia. Mas a questão mais complexa e fascinante diz respeito ao “quem”, a linha divisória entre humanos e não humanos como sujeitos de direitos.
Essa conversa já está bem estabelecida em outros campos e correntes, da filosofia da mente à teoria da informação, à cibernética, às comunicações e ao transumanismo. Um de seus analistas mais lúcidos, Meghan O'Gieblyn, resume com perspicácia o paradoxo em que nos encontramos: “à medida que a IA continua a passar por nós em benchmark após benchmark de cognição superior, reprimimos nossa ansiedade insistindo que o que distingue a verdadeira consciência é emoções, percepção, capacidade de experimentar e sentir: as qualidades, em outras palavras, que compartilhamos com os animais”.3 Duvido que o ChatGPT possa ver tão profundamente quanto O'Gieblyn, pelo menos por enquanto.
Assim, o antropocentrismo que inspira os direitos modernos, com seu reconhecimento exclusivo dos humanos, está sendo questionado de pontos de vista muito diferentes. Enquanto alguns estão começando a propor que IAs recebam alguns direitos,4 outros (inclusive eu)5 têm sugerido que o círculo de direitos seja ampliado para incluir as inteligências naturais de animais, plantas, fungos e ecossistemas.
A menos que abordemos essas questões, os direitos humanos podem não ter muito a dizer a um mundo confuso e transformado não apenas pela IA, mas também pela emergência climática, mudanças geopolíticas e democracias em retrocesso. O ChatGPT, ao contrário, certamente terá muito a dizer.
--
1.Ver https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-halluc..., publicado nesta edição da poliTICs.
2.Ver https://www.nytimes.com/2023/03/24/opinion/yuval-harari-ai-chatgpt.html
3.Ver https://www.penguinrandomhouse.com/books/567075/god-human-animal-machine...
4.Ver https://link.springer.com/article/10.1007/s11948-021-00331-8
5.Ver https://www.openglobalrights.org/more-than-human-rights-trees-animals-fu...
