Seis problemas em falar sobre o uso “ético” ou “responsável” de “IA”, Emily M. Bender e Decca Muldowney

Tradução de Six Problems With Talking About the “Ethical” or “Responsible” Use of “AI”, from the Mystery AI Hype Theater 3000: The Newsletter.

Seis problemas em falar sobre o uso “ético” ou “responsável” de “IA” #

Como se afastar do meio termo insustentável e desconfortável #

Em meio a todas as discussões intermináveis sobre “IA” atualmente, notamos um novo padrão surgindo: pessoas tentando ocupar um meio termo insustentável com relação ao uso de sistemas vendidos como “IA”. Esta é uma posição em que as pessoas tentam reconhecer os danos desta tecnologia, mas também reservam espaço para uso “responsável” ou “ético”.

Também notamos que quando alguém tenta manter essa posição insustentável em uma discussão, algumas coisas tendem a surgir (nem sempre, nem todos):

Atitude defensiva. As pessoas interpretam as críticas aos sistemas e os usos propostos pelos sistemas como acusações de que os usuários são “pessoas más”. Assim, uma crítica à tecnologia surge como uma crítica ao usuário, e as tensões aumentam. A nossa crítica à “IA” não se baseia na ética pessoal do utilizador, mas nos problemas incorporados nos sistemas em geral, nas empresas por detrás deles e nos governos cada vez mais sob o domínio dessas empresas.
Justiça. As pessoas têm necessidades legítimas, muitas vezes não atendidas, e as máquinas de extrusão de texto sintético podem parecer uma solução. Um argumento comum é que a “IA” beneficiará usuários vulneráveis ou marginalizados de várias maneiras, como tornar o aconselhamento de saúde mais acessível ou “democratizar” a educação, ou qualquer uma das variedades de “soluções” para problemas sistêmicos de acessibilidade que Rua Williams apelidou de “dongles para deficiências”. Mas só porque os problemas são reais não significa que a solução seja benéfica, eficaz ou que valha seus custos (nem sempre externalizados). Infelizmente, apontar qualquer uma dessas coisas é interpretado como o mesmo que dizer que você não se importa com as necessidades legítimas.
Entãosismo (Whataboutism). Esta é uma acusação de hipocrisia usada para ignorar preocupações sobre as externalidades desses sistemas. Você come carne, voa em aviões, etc, etc, então como ousa falar sobre os impactos dos data centers? Esta é uma receita para a inação, em qualquer frente.
Policiamento de tom. As pessoas que estão a tentar ocupar esse espaço desconfortável e insustentável alegarão que declarações claras de danos ou princípios fortes contra a utilização destes sistemas irão “afastar outros”, como se fossem os centristas que realmente pressionam por mais práticas éticas. Mas esta observação de “outras pessoas não vão ouvir” parece-nos uma forma de dizer: “Isto deixa-me desconfortável”, ao mesmo tempo que tentamos afirmar estar do lado certo da história.
Transmissão de desejos. Algumas pessoas apontam para resultados científicos de áreas externas à sua, que são comercializados como tendo sido feitos com “IA”, e perguntam: Como você pode adotar uma linha dura contra a “IA” quando ela fornece XYZ? Tais observações confundem muitas coisas diferentes sob a égide da “IA” e também são geralmente baseadas em uma cobertura da mídia cheia de entusiasmo que tende a obscurecer qual tecnologia foi realmente usada de que maneira.
Excepcionalismo. “Sei que isso pode ser perigoso para as pessoas em geral, mas sei como usá-lo com cuidado.”/“Eu sei como verificar cada saída e não estou me desqualificando.” Mas, nesse caso, como esses usuários poderiam saber que estão seguros? Essa posição também mistura o reconhecimento do perigo para os outros e, ao mesmo tempo, o exemplo arriscado de falar sobre o próprio uso.

Então, qual é a melhor maneira de sair desse espaço desconfortável e insustentável? Acreditamos que um passo fundamental é desagregar o conjunto (não coerente) de tecnologias vendidas como “IA”. Se você não cair na armadilha do truque de marketing que diz que tudo com o que você trabalha é “IA”, você não terá que tentar defender nada do resto.

Um bom exemplo disso é uma conversa recente que Emily teve, que se voltou em parte para uma definição estranha e excessivamente expansiva de “genAI”, que incluía, por exemplo, reconhecimento óptico de caracteres (OCR).

O OCR pode ser uma ferramenta útil para muitos projetos de pesquisa! (A Decca observa que OCR é incrivelmente valioso para jornalistas e tem sido usado por repórteres de dados há anos, muito antes do nosso atual ciclo de expectativa “de IA”.) OCR também é o tipo de tecnologia que melhora com melhores modelos de linguagem, ou seja, modelos mais refinados de quais palavras (partes) vão para onde. Isso é verdade desde antes da “genAI” e será verdade depois.

No entanto, só porque você pode usar máquinas de extrusão de mídia sintética para aproximar a tarefa de OCR não significa que essa tarefa pode ou deve ser usada para justificar o uso do “genAI” em pesquisa ou jornalismo.

Outro passo importante é um exame de valores. O que é importante para você? Como esses valores são apoiados ou não ao entrar no discurso de uma forma que abra espaço para OpenAI/Anthropic/Google/Meta e todos os outros nesse esforço massivo para empurrar a “IA” para todas as partes de nossas vidas como “não tão ruim”?

Para os estudiosos, sugerimos perguntar: Quais são seus objetivos de pesquisa, o que você valoriza em participar de estudos científicos, como você pode atingir esses objetivos/agir de acordo com esses valores e quais obstáculos estão em seu caminho? Para jornalistas: O que você espera alcançar com ferramentas vendidas como “IA” que não podem ser feitas com métodos tradicionais de reportagem ou técnicas de jornalismo de dados que já existem? Esse resultado é tão valioso que supera os problemas éticos do uso dessas ferramentas? Qual é a sua evidência de que as ferramentas funcionam conforme anunciado? De forma mais ampla, para qualquer pessoa que recorra a um chatbot ou outra tecnologia associada a danos bem documentados, qual é a necessidade que você está preenchendo com esse uso? Que valores entram em jogo e de que outra forma essa necessidade poderia ser satisfeita, ou pelo menos parcialmente satisfeita, de acordo com esses valores?

Parte do que torna esse meio termo insustentável e desconfortável é que ele exige o ’transporte de água’ para esses atores claramente ruins. A boa notícia é que você pode colocar o balde no chão e pisar em solo mais firme.

Isso exige ir contra o mainstream, mas fica mais fácil quando a) você descobre que não está sozinho e b) você vê o quanto da opinião popular sobre isso é, na verdade, resultado de marketing.

No podcast Mystery AI Hype Theater 3000, frequentemente expomos o hype da IA pelo marketing que ele é, mesmo quando feito por jornalistas e outros em nome das empresas que promovem seus produtos. Para discussões específicas sobre “IA” e ciência, jornalismo e engenharia de software, confira estes episódios do podcast:

Episódio 31 - A ciência é um empreendimento humano: algum dia a IA fará toda a nossa pesquisa científica por nós? Não provável. As Dra. Molly Crockett e Lisa Messeri se unem para acabar com a propaganda enganosa sobre “laboratórios autônomos” e por que tais deturpações também prejudicam os humanos, que são vitais para a pesquisa científica.

Episódio 65 - Crunching the Numbers: As chamadas ferramentas de IA estão cada vez mais se infiltrando nas redações, particularmente quando se trata de análise de dados. A escritora residente do DAIR, Decca Muldowney, se junta a nós para discutir a necessidade de jornalistas distinguirem entre “IA” e métodos de pesquisa confiáveis e verificáveis.

Episódio 79 - Cuidado com o engenheiro 20x: “Claro, LLMs são ruins em algumas coisas, mas você não pode negar que eles são úteis para programação!” Parece familiar? No episódio desta semana, Emily e Alex desmascaram os principais mitos sobre a produtividade impulsionada pela IA na tecnologia.