Hoje à noite, no grupo de leitura de IA..., de Anthony Moser
Anthony é o autor de Eu Odeio IA, já traduzido para o português e gravado por mim.
O texto é um pouco quebrado pois, afinal de contas, foi uma sequência de posts no Bluesky.
– INÍCIO DA TRADUÇÃO –
Hoje à noite, no grupo de leitura de AI, lembrei-me de algo que aconteceu em 2006, depois que eu desisti da faculdade, quando morava numa casa velha e em ruínas ao lado do JB Alberto’s, em Rogers Park, com um grupo de caras.
Como você pode imaginar, não era nada limpo.
E eu tinha um colega de quarto que, em geral, não ajudava nas tarefas domésticas. Na verdade, tinha mais de um, mas esse cara… Entrei na cozinha uma tarde e fiquei chocado.
Estava. Lindo. Ele tinha lavado toda a louça, todos os copos, a pia estava limpa. Sinceramente, não achava que ele fosse capaz disso.
Então peguei um copo, enchi-o na pia e disse: “Cara, muito obrigado, isso é incrível”.
E então notei a escova de limpeza na borda da pia.
Que parecia extremamente, de forma angustiante, com a escova de limpeza que guardávamos embaixo da pia. Junto com o limpador de vaso sanitário. Para limpar o banheiro.
Com uma sensação de certeza e pavor crescendo no meu estômago, perguntei a ele onde tinha conseguido os produtos de limpeza.
Mas eu já sabia.
Esvaziei o copo, joguei fora a escova e, a partir daquele momento, não confiei mais em nada que não tivesse lavado pessoalmente imediatamente antes de usar
O erro dele foi um erro humano. Mas me ocorreu que é o tipo de erro que se vê na IA
porque a forma estava perfeita. Ele aparentemente fez o que tinha que fazer, usou as ferramentas, seguiu os passos, produziu exatamente o que você esperaria ver
mas faltava um elemento-chave do contexto. E isso mudou completamente o significado de suas ações
você tem que entender por que está fazendo as coisas. você tem que saber de onde vem a escova de limpeza.
E aquela sensação de “oh não”, seguida de repulsa visceral que se transforma em profunda desconfiança? É assim que me sinto quando alguém me dá uma gororoba (nota do tradutor: AI slop).
É como se você tivesse acabado de me entregar um copo de água, e eu estivesse olhando para a pia pensando “… onde você encontrou essa escova?”
De certa forma, é ainda pior. Pelo menos ele não percebeu que estava lavando a louça com a escova do vaso sanitário.
Pessoas distribuindo gororoba? Sabem que estão usando a escova de vaso sanitário. Não se importam com isso. Ei, essa escova funciona muito bem em tudo.
Toma, bebe um copo d’água.
tl;dr
Ultimamente, o que penso é que uma pessoa pode estar errada da mesma forma que um LLM está errado, mas um LLM não pode estar certo da mesma forma que uma pessoa está certa
– FIM DA TRADUÇÃO –
Outros documentos semelhantes #
- Carta aberta: Pare com a adoção acrítica de tecnologias de IA na academia
- Eu Odeio IA, Anthony Moser
- Sobre a aceitação da IA Generativa, Joep Schuurkes
Grupo no Signal para discutir críticas à Inteligência Artificial #
Feedback e ajuda #
Quer comentar? Manda um e-mail para adolfo @ utfpr.edu.br ou me manda mensagem no Bluesky.
Sou coordenador da Rede Emílias de Podcasts
Quer ajudar os podcasts ou me ajudar a ir a eventos?