Tudo é culpa da IA?, Alex Hanna
Trecho de um fio no Bluesky que você pode ler em https://tbsky.app/profile/alexhanna.bsky.social/post/3n2ho5ns5lk2s.
Olay, vou entrar nessa discussão toda de “tudo está em baixa, a culpa é da IA”. Acho que a direção da lógica causal em que as pessoas estão pensando quando dizem “a culpa é da IA” é “a empresa usou código gerado por LLM, esse código quebrou e agora eles não conseguem consertá-lo”
E pode ser que seja esse o caso. Mas.
Provavelmente nunca ouviremos se esse é o caso porque as empresas querem defender os investimentos em IA e não querem recontratar pessoas que foram demitidas ou, Deus nos livre, contratar novos desenvolvedores.
A realidade mais obscura provavelmente tem algo a ver com a dívida técnica, o aumento do custo da mão-de-obra e a falta de vontade de lidar com a dívida técnica.
Dívidas técnicas são atalhos e hacks, além da falta de documentação e criação de processos, o que é comum em organizações de tecnologia.
Não é sexy resolver dívidas tecnológicas. Não é uma área onde você pode argumentar a favor do número de funcionários. E as pessoas no Google escreviam há mais de uma década sobre como os sistemas de aprendizado de máquina incorrem em dívidas significativas.
Machine Learning: The High Interest Credit Card of Technical Debt https://research.google/pubs/machine-learning-the-high-interest-credit-card-of-technical-debt/
Na empresa de tecnologia habilitada para IA, você está criando uma organização otimizada para maiores taxas de produtividade (operacionalizada como escrita de código) e potencialmente mais demissões. Raramente se trata do ferramental em si. É sobre o tipo de organização que é criada.
Descobrimos isso em nosso estudo de caso com o @nytguildtech.bsky.social. A gerência queria criar um local de trabalho que entregasse, não importando os custos auxiliares de revisão de código e documentação.
Luddite Lab - Case Studies https://labor.dair-institute.org/case-studies
Então é de se admirar que sistemas legados estejam quebrando por toda parte? Eles nem precisam enviar um novo código bugado. Eles simplesmente não têm o conhecimento tácito, nem a capacidade dos atuais engenheiros de confiabilidade e software, para gerenciar a manutenção.
Então é a “IA”? Em organizações onde podemos exigir que descubramos o que aconteceu, devemos forçar isso com o máximo de poder possível.
O Congresso definitivamente precisa forçar uma investigação abrangente sobre as falhas da FAA. Não estou otimista de que os sistemas privados terão uma autópsia pública.
Mas, para reiterar o que dizemos em nosso estudo de caso, é sobre IA, mas não sobre IA.
É o tipo de organização que é fomentada na economia que prioriza a IA. #
Traduzido com Lingvanex.
Grupo no Signal para discutir críticas à Inteligência Artificial #
Feedback e ajuda #
Quer comentar? Manda um e-mail para adolfo @ utfpr.edu.br ou me manda mensagem no Bluesky.
Sou coordenador da Rede Emílias de Podcasts
Quer ajudar os podcasts ou me ajudar a ir a eventos?