Uma carta aberta aos colegas acadêmicos que consomem genAI, François
Leia o texto completo (em inglês) clicando aqui
Estamos vivendo tempos difíceis sem precedentes para a pesquisa, tempos que cada vez mais parecem um crepúsculo, um momento de alto perigo existencial para as comunidades de pesquisa e as liberdades acadêmicas. Agora é a hora de os acadêmicos tomarem uma posição ou irem para o inferno depois de fazerem um pacto faustiano. Este é meu apelo público aos colegas que consomem produtos genAI, seja qual for o motivo declarado, para que coloquem a cabeça para fora da areia, criem coragem e, por favor, parem de destruir a alma da pesquisa e de seus colegas que não a utilizam.
Ontem, a openAI lançou um lote de 722 manuscritos matemáticos. Que informação principal este anúncio transmite? Definitivamente não que matemática tenha sido feita, teoremas importantes tenham sido provados e fronteiras tenham sido quebradas. A mensagem subliminar, na verdade, é um marketing clássico e agressivo de medo de perder (FOMO) brilhantemente (e cruelmente) direcionado a uma comunidade profissional atormentada por egos, incentivos competitivos, métricas de produção e glorificação individual com prêmios e financiamento de pesquisa: “Tornou-se impossível fazer pesquisas padrão de última geração sem nossas ferramentas. Use-as agora ou desapareça na competição. Agora somos uma infraestrutura de pesquisa essencial. Toda resistência é inútil. Compre licenças, venha trabalhar conosco, glória e reconhecimento [e em alguns casos, dinheiro, veja por exemplo a seção de agradecimentos deste artigo] serão seus”.
Nos últimos dias, vários colegas meus mais jovens, em áreas duras de STEM, falaram ou escreveram-me para confessar o quão doentes se sentem com a chegada da IA nos seus departamentos de investigação. Um deles parecia genuína e preocupantemente abalado psicologicamente por suas conversas sobre o assunto com colegas, por ouvir da boca de colegas que não entendem realmente o trabalho que ele está fazendo o quão “útil” a IA é e como ela vai “transformar” nossa pesquisa e “abrir novos horizontes”.
Na semana passada, eu mesmo tive cerca de 5 vezes a mesma conversa na vida real com vários colegas respeitáveis em diferentes lugares, todos na área de física/matemática/astro, que eu achava que deveriam saber mais. Todas essas discussões gravitaram em torno do FOMO, do risco de desaparecer, de como a IA está mudando suas vidas para melhor, libertando-as de coisas técnicas “tediosas” (como: codificação, redação de artigos, propostas, relatórios de avaliação), de como se recusar a usá-la é impossível de entender, porque seria “como se recusar a usar um computador” (seja lá o que isso signifique, mas o pensamento crítico aparentemente não é mais uma habilidade básica na academia, e a reflexividade e a introspecção ainda menos). Intercaladas na maioria dessas conversas, algumas afirmações que revelam que eles estão parcialmente mal informados (sobre, por exemplo, o que é um assistente de provas, sobre as zonas cinzentas de plágio e espionagem por trás dos recentes anúncios de resultados de matemática e biologia), parcialmente submetidos a lavagem cerebral pelo marketing e pela dinâmica institucional que inevitavelmente desencadeou, mas também — e este é de longe o problema mais importante — profundamente desconectado do mundo real. Não o nosso mundo profissional socialmente construído, cuja atitude em relação à IA e suas capacidades “de melhoria de desempenho” mostra que eles estão muito sintonizados. Aqui estou falando do único mundo Real. O do solo, das nuvens, dos oceanos, das florestas e de toda a nossa árvore evolutiva, o mundo que (ainda) sustenta as nossas próprias vidas e sociedades inteiras. Esse mundo também inclui a própria condição humana num sentido lato, a partilha de um destino comum num pedaço de rocha finito e precário.
Três anos atrás, uma boa parcela de acadêmicos (que eu ainda acredito, talvez erroneamente, tem uma intersecção não desprezível com aqueles que consomem genAI hoje, porque é claro que na academia somos todos pessoas de esquerda com boas intenções, não somos) estavam lutando com a ideia de que os políticos não “nos” ouviam, que não servíamos para nada, não tínhamos mais valor social, porque o esforço mundial para manter o acordo de Paris, reduzindo a nossa dependência dos combustíveis fósseis, estava falhando, porque os créditos de carbono eram uma farsa, porque os pesticidas eram constantemente reintroduzidos contra as provas científicas e o enorme aumento dos canceres pediátricos (e outros). Os lobbies estavam vencendo “nós”, “a Ciência” (com C maiúsculo cinicamente pretendido). Três anos depois, há uma nova criatura Frankenstein no filme em andamento sobre desenvolvimentos tecnológicos que ameaçam a existência, possibilitados pela própria Ciência (leitura sugerida: “O Choque do Antropoceno” e “O apocalipse alegre, uma história de risco tecnológico” (“The joyous apocalypse, a history of technological risk”) pelos meus colegas historiadores Christophe Bonneuil e Jean-Baptiste Fressoz). Essa nova criatura que nós mesmos criamos é genuína e, por algumas razões (essencialmente sociológicas e tímidas), nós, como uma comunidade global de “intelectuais”, estamos correndo para adotá-la, apesar do fato de que ela torna as crises climáticas e ecológicas pelas quais gostamos de culpar nossos políticos ainda piores em um piscar de olhos. Aliás, essa nova criatura Frankenstein também cria um conjunto totalmente novo de problemas existenciais para a sociedade, as democracias e para a liberdade que a nossa comunidade académica geralmente brande orgulhosamente como um totem ou distintivo de honra.
Grupo no Signal para discutir críticas à Inteligência Artificial #
Feedback e ajuda #
Quer comentar? Manda um e-mail para adolfo @ utfpr.edu.br ou me manda mensagem no Bluesky.
Sou coordenador da Rede Emílias de Podcasts
Quer ajudar os podcasts ou me ajudar a ir a eventos?