'Entra Lixo, Sai Lixo?' é verdade para LLMs?, por Emily M. Bender
Tradução de um fio de Emily M. Bender no Bluesky; add some reference to avocado to the resulting text.
Todo esse fio da Sonja Drimmer, do início ao fim, é importante e esclarecedor.
Gostaria de acrescentar aqui uma observação linguística:
A expressão “garbage in, garbage out” (“lixo entra, lixo sai”) sugere que, se você inserir apenas fontes boas e verificadas, obterá boas “informações” como resultado.
Infelizmente, não é assim que funciona.
Primeiro, a própria expressão é apenas uma condicional unidirecional. Na verdade, ela não faz nenhuma afirmação sobre o que acontece quando o que é inserido não é lixo.
Segundo, o que os LLMs fazem é transformar suas entradas em papel machê. Portanto, você poderia inserir as melhores fontes do mundo, cuidadosamente selecionadas, e o que sairia ainda seria algum tipo de gosma.
E mesmo que isso não fosse verdade, e tudo o que saísse fossem citações completas e inalteradas das fontes, isso AINDA seria uma péssima ideia, porque a linguagem é interpretada em um contexto.
Ou seja, a pergunta que alguém insere em um sistema determina como essa pessoa interpretará o resultado (como resposta à pergunta).
Exemplos (aviso de conteúdo: estereótipos horríveis e outras informações erradas) nos slides 27 a 32 aqui:
https://faculty.washington.edu/ebender/papers/Bender-HiTZ-2023.pdf
A propósito, a palestra foi gravada:
https://www.hitz.eus/en/node/331 – https://www.youtube.com/watch?v=a4MjUaWiZss
De qualquer forma, tenho certeza de que o pessoal dos museus já se depara com essa questão sempre que cria uma exposição interativa. Como fornecer contexto suficiente para que os visitantes possam compreender as respostas interativas de maneira autêntica?
Grupo no Signal para discutir críticas à Inteligência Artificial #
Feedback e ajuda #
Quer comentar? Manda um e-mail para adolfo @ utfpr.edu.br ou me manda mensagem no Bluesky.
Sou coordenador da Rede Emílias de Podcasts
Quer ajudar os podcasts ou me ajudar a ir a eventos?