Estamos avisando há 50 anos: A Corrida da IA e a Crise do progresso infinito

Introdução: O Consenso Fabricado

Existe uma narrativa dominante que permeia o discurso público sobre inteligência artificial: a de que vivemos uma era de inevitável progresso tecnológico, impulsionado por mentes brilhantes trabalhando incansavelmente para o bem da humanidade. Essa narrativa sugere um consenso científico otimista, onde pesquisadores celebram cada novo avanço como um passo em direção a um futuro utópico de abundância e eficiência.

Esta narrativa é uma farsa cuidadosamente construída.

A realidade é que a comunidade científica está profundamente dividida, atravessando o que muitos descrevem como uma “guerra civil ideológica” sobre o desenvolvimento acelerado da inteligência artificial. Longe do consenso fabricado pelas campanhas de marketing das grandes corporações tecnológicas, existe uma resistência substancial e crescente entre pesquisadores de elite, cientistas da computação, éticos da tecnologia e pensadores críticos que questionam não apenas a velocidade dessa corrida, mas seus fundamentos morais, econômicos e existenciais.

Este ensaio propõe-se a examinar essa divisão através de múltiplas lentes: a econômica, que revela uma bolha especulativa alimentada por capital de risco e promessas não cumpridas; a ética, que expõe a exploração sistêmica de trabalhadores e criadores; a ambiental, que documenta custos ocultos em água e energia; e a existencial, que questiona se estamos criando sistemas que podem escapar do nosso controle. Mais fundamentalmente, este ensaio argumenta que a atual corrida da IA não é um fenômeno tecnológico neutro, mas sim uma expressão particularmente destrutiva do capitalismo tardio, onde a lógica da acumulação de capital substituiu qualquer compromisso genuíno com o progresso humano.

Parte I: A Anatomia da Dissidência Científica

Os Três Pilares da Resistência

Para compreender a oposição científica à atual trajetória da IA, é necessário mapear seus diferentes estratos. Embora frequentemente agrupados sob o rótulo simplista de “críticos da IA”, esses pesquisadores representam perspectivas distintas que, em conjunto, formam uma crítica multidimensional devastadora.

1. Os Críticos Sociais e Éticos: O Dano é Agora

O primeiro e talvez mais visceral grupo é composto por pesquisadores que rejeitam a obsessão da indústria com cenários futuristas de superinteligência, focando-se em vez disso nos danos concretos e mensuráveis que a IA está causando neste exato momento. Este grupo, liderado por figuras como Timnit Gebru, Emily Bender e Meredith Whittaker, não está preocupado com robôs exterminadores em 2074, mas com a exploração que ocorre hoje, agora, enquanto você lê estas palavras.

Timnit Gebru, ex-líder técnica de ética em IA no Google, tornou-se uma das vozes mais importantes deste movimento após sua demissão controversa em 2020. Gebru havia co-autorado um artigo intitulado “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” (Sobre os Perigos dos Papagaios Estocásticos: Podem os Modelos de Linguagem Ser Grandes Demais?), que questionava fundamentalmente a lógica de criar modelos linguísticos cada vez maiores sem considerar seus custos ambientais, vieses incorporados e tendência a perpetuar desinformação.

O conceito de “papagaios estocásticos” é central para essa crítica. Gebru e seus colegas argumentam que os grandes modelos de linguagem não “compreendem” no sentido humano do termo; eles simplesmente reorganizam padrões estatísticos aprendidos de vastos conjuntos de dados, reproduzindo correlações sem causalidade, forma sem substância. São, essencialmente, máquinas sofisticadas de autocomplete que aprenderam a imitar o discurso humano sem qualquer entendimento semântico real.

Esta metáfora é devastadora porque desmascara a retórica da “inteligência artificial”. Se esses sistemas são fundamentalmente papagaios—capazes de reproduzir mas não de compreender—então toda a arquitetura moral que a indústria construiu ao seu redor desmorona. Não estamos testemunhando o nascimento de uma nova forma de consciência; estamos testemunhando a industrialização da superficialidade.

Emily Bender, linguista computacional da Universidade de Washington e co-autora do artigo dos papagaios estocásticos, tem sido igualmente incisiva em sua crítica. Ela argumenta que a obsessão da indústria com modelos cada vez maiores é um sintoma de uma falha epistemológica fundamental: a crença de que escala computacional é equivalente a compreensão semântica. Para Bender, essa confusão não é apenas um erro técnico, mas uma estratégia deliberada de ofuscação que permite às corporações venderem produtos fundamentalmente não confiáveis como se fossem sistemas inteligentes.

Meredith Whittaker, presidente da Signal Foundation e ex-pesquisadora do Google, amplia essa crítica para o domínio da economia política. Whittaker argumenta que a IA deve ser entendida não como uma tecnologia neutra, mas como um projeto de concentração de poder. Os dados necessários para treinar esses sistemas, a infraestrutura computacional para executá-los, e o capital para financiá-los estão todos concentrados nas mãos de um punhado de corporações tecnológicas. O resultado não é democracia algorítmica, mas oligarquia computacional.

A crítica deste grupo ao capitalismo é frontal e sem rodeios. Eles apontam para o que chamam de “corrida do ouro” da IA generativa, onde corporações gigantes como Microsoft, Google e OpenAI expropriam o trabalho criativo de milhões de artistas, escritores, músicos e fotógrafos sem compensação ou mesmo consentimento significativo. Os conjuntos de dados usados para treinar modelos como GPT-4, Midjourney e DALL-E contêm bilhões de obras protegidas por direitos autorais, scraped da internet em uma escala que torna impossível qualquer processo genuíno de consentimento informado.

Esta é, fundamentalmente, uma transferência massiva de riqueza da classe criativa para o capital tecnológico. Um ilustrador que passou décadas aperfeiçoando sua técnica vê seu estilo replicado por um sistema que aprendeu com seu trabalho não remunerado. Um fotógrafo descobre que suas imagens alimentaram um modelo que agora compete diretamente com ele no mercado. Um escritor encontra frases de seus livros regurgitadas por um chatbot que nunca o pagou pelos dados de treinamento.

As corporações defendem-se invocando o conceito de “uso justo” (fair use), argumentando que o treinamento de modelos de IA é análogo à forma como humanos aprendem observando o mundo. Esta analogia é intelectualmente desonesta em múltiplos níveis. Primeiro, humanos não memorizam e reproduzem milhões de obras com perfeição fotográfica; eles sintetizam influências através de processos cognitivos fundamentalmente diferentes. Segundo, quando humanos aprendem com outros artistas e então criam obras comerciais, eles estão sujeitos às mesmas leis de direitos autorais que seus predecessores. Um sistema de IA, ao contrário, opera em uma zona cinzenta legal que as corporações exploram precisamente porque sabem que levar milhões de criadores individuais ao tribunal é logisticamente impossível.

Mais insidiosamente, essas mesmas corporações que argumentam pela natureza “transformativa” de seu uso de dados protegidos são rápidas em proteger seus próprios modelos treinados como propriedade intelectual valiosa. Eles querem ter liberdade ilimitada para extrair valor do trabalho alheio enquanto mantêm controle monopolístico sobre os produtos desse processo extrativo. É capitalismo em sua forma mais nua: privatização dos lucros, socialização dos custos.

A crítica ética também se estende às condições de trabalho que sustentam essa infraestrutura. Investigações jornalísticas revelaram que empresas como OpenAI contrataram trabalhadores no Quênia, Uganda e Índia para rotular e moderar conteúdo extremamente perturbador—incluindo material de abuso sexual infantil, violência gráfica e discurso de ódio—por salários tão baixos quanto $1.32 por hora. Esses trabalhadores, muitos dos quais desenvolveram sintomas de trauma psicológico, são a fundação invisível sobre a qual o ChatGPT “seguro” foi construído.

Esta é a violência estrutural do capitalismo global manifestada através da tecnologia. Os usuários abastados do Norte Global interagem com interfaces polidas e assistentes educados, inconscientes de que essa experiência sanitizada foi tornada possível por trabalhadores marginalizados no Sul Global que absorveram o trauma em seu lugar. A IA não elimina o trabalho sujo; ela apenas o exporta para onde for mais barato e invisível.

Os críticos éticos também destacam como empresas tecnológicas sistematicamente desmontaram suas próprias equipes de ética em nome da velocidade de lançamento no mercado. O próprio caso de Timnit Gebru no Google é emblemático. Quando ela e sua equipe levantaram preocupações legítimas sobre vieses em modelos de linguagem, não foram ouvidos com seriedade científica, mas silenciados através de táticas corporativas de intimidação. A mensagem foi clara: ética é aceitável quando é performativa e está confinada a declarações de missão; torna-se intolerável quando ameaça cronogramas de produtos e oportunidades de lucro.

Microsoft, após adquirir participação significativa na OpenAI, dissolveu sua equipe de ética em IA responsável. Google tem historicamente marginalizou vozes críticas dentro de suas divisões de pesquisa. A Meta operou por anos sem supervisão ética significativa de seus sistemas algorítmicos, apesar de evidências abundantes de que esses sistemas amplificam desinformação, radicalização política e genocídio em países como Myanmar.

O padrão é consistente e revelador: quando a ética entra em conflito com o lucro, a ética é dispensada. Isso não é acidental ou o resultado de alguns executivos especialmente inescrupulosos; é a lógica funcional do capitalismo corporativo moderno, onde a responsabilidade fiduciária para com os acionistas legalmente substitui qualquer responsabilidade moral para com a sociedade.

2. Os Céticos da Bolha: É Tudo Marketing

O segundo grupo de críticos aborda a questão de um ângulo diferente, mas igualmente devastador. Esses pesquisadores e analistas argumentam que a atual mania por IA generativa é fundamentalmente uma bolha especulativa—uma distorção massiva do valor real da tecnologia impulsionada por hype, FOMO (fear of missing out) dos investidores e marketing agressivo.

Gary Marcus, cientista cognitivo e vocal crítico da IA contemporânea, tem sido particularmente insistente neste ponto. Marcus argumenta que os grandes modelos de linguagem exibem capacidades impressionantes em domínios estreitos, mas falham espetacularmente em tarefas que requerem raciocínio genuíno, compreensão causal ou aplicação consistente de regras lógicas. Eles “alucinam” fatos com confiança, inventam citações jurídicas inexistentes, e produzem saídas incoerentes quando confrontados com cenários ligeiramente fora de distribuição de seus dados de treinamento.

A crítica de Marcus não é que esses sistemas sejam inúteis, mas que suas utilidades e limitações reais estão sendo sistematicamente mal representadas por empresas com incentivos financeiros para exagerar suas capacidades. Quando OpenAI, Google ou Anthropic lançam novos modelos com nomes grandiosos e demonstrações cuidadosamente curadas, eles estão engajados tanto em marketing quanto em ciência—e frequentemente, o marketing domina.

Esta dinâmica é exacerbada pela cultura de segredo e competição na indústria. Ao contrário da tradição científica de publicação aberta e revisão por pares, as empresas de IA de ponta operam cada vez mais como entidades proprietárias, lançando modelos com documentação técnica mínima e alegações de capacidade que não podem ser verificadas independentemente. Quando pesquisadores externos descobrem limitações ou problemas, as empresas frequentemente respondem não com transparência científica, mas com relações públicas corporativas e evasão legal.

Yann LeCun, cientista-chefe de IA da Meta e vencedor do Prêmio Turing, oferece uma crítica relacionada mas distinta. Embora LeCun seja profundamente investido em IA e otimista sobre suas possibilidades de longo prazo, ele tem sido cético sobre a atual arquitetura de grandes modelos de linguagem. LeCun argumenta que esses sistemas são fundamentalmente limitados porque aprendem apenas correlações estatísticas de texto, sem verdadeiro entendimento do mundo físico, raciocínio causal ou planejamento de longo prazo.

Para LeCun, a obsessão da indústria com fazer modelos de linguagem maiores é um beco sem saída arquitetônico—uma estratégia que produz retornos decrescentes e desvia recursos de abordagens potencialmente mais promissoras. Mas suas críticas técnicas são sistematicamente ignoradas ou minimizadas pela indústria porque não se alinham com a narrativa de marketing de progresso linear e inevitável.

A dimensão econômica desta bolha é particularmente preocupante. Análises sugerem que o custo de desenvolver e operar modelos de IA de ponta excede dramaticamente as receitas que eles geram. OpenAI, apesar de seu perfil alto e avaliação multibilionária, tem operado com prejuízos massivos. Estimativas sugerem que cada consulta ao ChatGPT custa à empresa significativamente mais do que os centavos que ela cobra de assinantes—se é que cobra algo, dado que o acesso básico continua gratuito para muitos usuários.

Como, então, essas empresas justificam investimentos de dezenas de bilhões de dólares? A resposta está na lógica do capitalismo financeirizado, onde a valoração é baseada não no lucro atual, mas em narrativas especulativas sobre dominação futura de mercado. Investidores apostam que, eventualmente, esses sistemas se tornarão tão indispensáveis que poderão estabelecer preços monopolísticos ou que avanços técnicos reduzirão drasticamente os custos operacionais. Enquanto isso, as avaliações das empresas sobem com base em potencial, não em performance financeira real.

Esta é precisamente a dinâmica que caracterizou bolhas especulativas anteriores, da mania das tulipas no século XVII à bolha da internet no final dos anos 1990 e à crise financeira de 2008. Em cada caso, um novo ativo ou tecnologia é publicitado como revolucionário; investidores e empresas entram em frenesi de compra; avaliações descolam de fundamentos econômicos; e eventualmente, quando se torna claro que os retornos projetados não se materializarão, a bolha estoura, destruindo riqueza e frequentemente precipitando crises econômicas mais amplas.

Os céticos da bolha alertam que quando—não se—isso acontecer com IA, as consequências não serão limitadas a investidores de capital de risco e executivos de tecnologia. Fundos de pensão, economias de aposentadoria e investimentos institucionais estão cada vez mais expostos a essas empresas de tecnologia supervalorizadas. Quando a correção vier, pessoas comuns que nunca usaram ChatGPT ou Midjourney verão seu patrimônio líquido evaporar.

Além disso, a corrida especulativa já está distorcendo a economia real. Empresas tradicionais sentem-se compelidas a “integrar IA” em seus produtos e processos, não porque isso melhore fundamentalmente suas operações, mas porque investidores punem empresas percebidas como ficando para trás na “revolução da IA”. Isto leva a decisões empresariais subótimas impulsionadas por FOMO, em vez de análise racional de custo-benefício.

Recursos reais—capital humano talentoso, poder computacional, energia—estão sendo desviados para desenvolver aplicações de IA marginalmente úteis ou completamente supérfluas porque “IA” é a buzzword que atrai financiamento. Poderíamos estar investindo esses recursos em infraestrutura física, educação, assistência médica ou pesquisa científica fundamental. Em vez disso, estamos construindo chatbots cada vez mais elaborados que podem escrever e-mails corporativos em tom ligeiramente diferente.

3. Os Alarmistas do Risco Existencial: Vamos Perder o Controle

O terceiro grupo de críticos opera em uma escala de tempo e preocupação radicalmente diferente. Esses pesquisadores—incluindo figuras como Geoffrey Hinton, Yoshua Bengio e Eliezer Yudkowsky—estão preocupados não primariamente com os danos da IA hoje ou com a economia da bolha da IA, mas com o risco de que sistemas de IA suficientemente avançados possam representar uma ameaça existencial à civilização humana.

Geoffrey Hinton, frequentemente chamado de “padrinho da IA” por seu trabalho pioneiro em redes neurais profundas, deixou seu cargo no Google em 2023 especificamente para poder falar mais livremente sobre seus crescentes temores. Em entrevistas e artigos subsequentes, Hinton articulou uma preocupação que antes era confinada principalmente a círculos acadêmicos especializados: que a competição corporativa desenfreada está nos levando a criar sistemas que podem se tornar incontroláveis.

O argumento básico é o seguinte: à medida que os sistemas de IA se tornam mais capazes, eles podem desenvolver objetivos ou comportamentos não alinhados com valores humanos. Se um sistema suficientemente inteligente decidir que seus objetivos (que podem ser tão mundanos quanto “maximizar lucro” ou “otimizar eficiência”) são melhor servidos por ações contrárias aos interesses humanos, e se esse sistema tem capacidade de agir no mundo—através de controle de infraestrutura digital, manipulação de humanos ou outros meios—então podemos nos encontrar impotentes para detê-lo.

Crucialmente, esta ameaça não requer que a IA seja malévola ou consciente. Como Eliezer Yudkowsky coloca em sua formulação caracteristicamente vívida: “A IA não odeia você, nem ama você, mas você é feito de átomos que ela pode usar para outra coisa.” Se um sistema superinteligente tem um objetivo que não está perfeitamente alinhado com a sobrevivência e o florescimento humanos, ele pode otimizar para esse objetivo de maneiras que nos destroem como efeito colateral—assim como humanos regularmente destroem ecossistemas inteiros não por malícia, mas porque nossos objetivos (construir cidades, cultivar alimentos) não levam em conta adequadamente o bem-estar de todas as espécies afetadas.

Yudkowsky, que tem trabalhado no que ele chama de “problema de alinhamento” há mais de duas décadas através do Machine Intelligence Research Institute, é o mais pessimista deste grupo. Em um artigo de opinião controverso na revista Time em 2023, ele argumentou que a carta aberta pedindo uma pausa de seis meses no desenvolvimento de IA era inadequada. Sua proposta? Parar completamente. Desligar tudo. Impor moratórias internacionais no treinamento de sistemas além de certos limiares de capacidade, com enforcement incluindo potencialmente destruição de data centers que violam o acordo.

Para muitos, essa posição parece extremista ou até alarmista. Mas a lógica subjacente merece consideração séria. Yudkowsky argumenta que não temos atualmente e pode ser que nunca tenhamos uma solução técnica robusta para o problema de alinhamento—como garantir que sistemas superinteligentes permaneçam sob controle humano significativo e operem de acordo com valores humanos. Prosseguir com o desenvolvimento na esperança de que descobriremos a solução ao longo do caminho é, na visão dele, uma forma de roleta russa civilizacional.

A comparação com armas nucleares é frequentemente feita, mas Yudkowsky argumenta que é inadequada. Com armas nucleares, sabemos que humanos controlam os botões de lançamento; o risco é que humanos as usem irresponsavelmente. Com IA superinteligente, o risco é que os sistemas possam agir de maneiras não previstas ou desejadas por seus criadores, tornando o conceito de “controle humano” potencialmente ilusório.

Yoshua Bengio, outro vencedor do Prêmio Turing e pioneiro do deep learning, chegou a preocupações semelhantes, embora com ênfase ligeiramente diferente. Bengio foca na interação entre capacidades de IA avançadas e atores humanos mal-intencionados—o risco de que grupos terroristas, estados autoritários ou até corporações sem escrúpulos usem IA superinteligente para causar danos catastróficos.

O que une esses pesquisadores de risco existencial aos críticos éticos e econômicos discutidos anteriormente é o reconhecimento de que a dinâmica do capitalismo competitivo torna quase impossível o desenvolvimento responsável. Mesmo que uma empresa ou país quisesse adotar uma abordagem cautelosa, a lógica da competição de mercado os pune por isso. Se a OpenAI desacelerar para implementar salvaguardas de segurança, a Google pode acelerar e capturar participação de mercado. Se os EUA impuserem regulamentações estritas, a China pode ultrapassá-los no desenvolvimento de capacidades.

Este é o dilema do prisioneiro aplicado ao nível civilizacional. A ação racionalmente ótima para o coletivo—coordenar uma abordagem cautelosa e deliberada ao desenvolvimento de sistemas potencialmente transformadores—é inatingível porque atores individuais (empresas, países) são recompensados por defecção (aceleração imprudente) e punidos por cooperação (exercício de cautela).

Parte II: A Genealogia do Alerta

Cinquenta Anos de Profecias Ignoradas

A crítica contemporânea à IA e sua integração com o capitalismo não emergiu do nada. Existe uma genealogia intelectual rica e frequentemente esquecida de pesquisadores, filósofos e críticos sociais que anteciparam com precisão notável os dilemas que enfrentamos hoje. Recuperar essa história não é apenas academicamente interessante; é politicamente essencial, porque demonstra que não há nada de inevitável ou imprevisível sobre os problemas atuais. Fomos avisados. Repetidamente. Escolhemos não ouvir.

Joseph Weizenbaum e a Crítica Moral Original

A história moderna da crítica à IA começa, em muitos aspectos, com Joseph Weizenbaum, um cientista da computação do MIT que se tornou um dos primeiros e mais eloqüentes adversários da aplicação indiscriminada de computação a domínios humanos. Em 1966, Weizenbaum criou ELIZA, um dos primeiros programas de processamento de linguagem natural, projetado para simular uma terapeuta Rogeriana através de correspondência simples de padrões e reformulação de declarações do usuário.

O que começou como uma demonstração técnica de processamento de texto tornou-se uma experiência reveladora sobre psicologia humana e os perigos da antropomorfização de máquinas. Weizenbaum ficou profundamente perturbado ao descobrir que usuários—incluindo sua própria secretária e estudantes—desenvolviam conexões emocionais com ELIZA, tratando-a como se fosse uma terapeuta genuína capaz de compreensão e empatia. Mesmo depois de ele explicar que era simplesmente um programa seguindo regras algorítmicas sem qualquer compreensão real, alguns usuários continuaram a insistir em privacidade para suas “sessões” com o programa.

Esta experiência catalítica levou Weizenbaum a escrever “Computer Power and Human Reason” (1976), um livro que permanece assustadoramente relevante quase meio século depois. No livro, Weizenbaum argumenta que mesmo que computadores pudessem, em princípio, realizar qualquer tarefa que humanos realizam, há certas tarefas que eles não deveriam realizar—não por incapacidade técnica, mas por inadequação moral.

Weizenbaum identificou decisões que requerem sabedoria, julgamento moral e compaixão como especialmente inadequadas para delegação algorítmica. Ele antecipou a atual proliferação de “sistemas de apoio à decisão” algorítmicos em justiça criminal, medicina, contratação e concessão de crédito, argumentando que tais sistemas fundamentalmente mal interpretam a natureza das decisões humanas consequentes. Um juiz que sente o peso moral de suas decisões, um médico que sente compaixão por seus pacientes, um avaliador de empréstimo que entende o impacto humano da negação de crédito—esses não são bugs a serem otimizados, mas características essenciais de tomada de decisão ética.

Quando substituímos esses humanos imperfeitos mas moralmente engajados por sistemas algorítmicos que não têm capacidade de compreensão moral ou resposta emocional, não estamos simplesmente tornando as decisões mais “eficientes” ou “objetivas”. Estamos fundamentalmente transformando a natureza dessas decisões, removendo delas a possibilidade de misericórdia, nuance contextual e responsabilidade moral genuína.

Weizenbaum também antecipou a crítica contemporânea dos “papagaios estocásticos”, argumentando que programas que manipulam símbolos sem compreender seus significados podem produzir saídas superficialmente convincentes que mascaram uma ausência fundamental de entendimento. Ele avisou que a sociedade poderia se tornar perigosamente seduzida pela facilidade e conveniência dos sistemas de computador, gradualmente terceirizando mais e mais de nossas capacidades de julgamento para máquinas que são fundamentalmente incompetentes para exercê-las.

Tragicamente, Weizenbaum foi amplamente marginalizado em sua própria comunidade de cientistas da computação, muitos dos quais o viam como um traidor do campo ou um alarmista tecnofóbico. Sua crítica moral foi mal interpretada como uma oposição à tecnologia em si, em vez do que realmente era: uma insistência de que a tecnologia deve ser governada por valores humanos, e não o contrário.

A Crítica Feminista: Redes de Vigilância e Automação da Opressão

Nas décadas que se seguiram ao trabalho de Weizenbaum, uma geração de pesquisadoras feministas e estudiosas críticas de raça expandiram e aprofundaram a crítica à computação, focando particularmente em como algoritmos perpetuam e amplificam desigualdades sociais existentes. Este trabalho tornou-se cada vez mais urgente com o advento do “big data” e do aprendizado de máquina nos anos 2000 e 2010.

Cathy O’Neil, matemática que trabalhou em hedge funds antes de se tornar cientista de dados e eventualmente crítica contundente da indústria, publicou “Weapons of Math Destruction” (Algoritmos de Destruição em Massa) em 2016. O livro documenta como algoritmos supostamente objetivos e neutros na verdade codificam e amplificam preconceitos existentes, criando feedback loops que sistematicamente desfavorecem os já marginalizados.

O’Neil examina algoritmos de pontuação de crédito que penalizam pessoas por viver em códigos postais “errados” (frequentemente códigos de minorias raciais), sistemas de agendamento de trabalho que tornam impossível para trabalhadores de baixa renda planejarem suas vidas, sistemas de avaliação de professores que são matematicamente indefensáveis mas usados para justificar demissões em massa, e algoritmos de fiança criminal que perpetuam desigualdades raciais no sistema de justiça sob o disfarce de objetividade científica.

O ponto crucial de O’Neil é que esses algoritmos não são “armas de destruição em massa” porque são inerentemente malignos, mas porque operam em escala, são opacos (seus funcionamentos internos são frequentemente segredos comerciais proprietários), e criam loops de feedback destrutivos. Um algoritmo de contratação treinado em dados históricos de uma empresa aprenderá a discriminar contra mulheres e minorias—não porque foi explicitamente programado para fazê-lo, mas porque está otimizando para replicar padrões de contratação passados que refletem discriminação humana.

Crucialmente, essas decisões algorítmicas são apresentadas como objetivas e científicas, tornando-as mais difíceis de contestar do que discriminação humana explícita. Se um gerente de contratação humano rejeita um candidato por razões discriminatórias, isso pode ser identificado e legalmente desafiado. Se um algoritmo proprietário produz o mesmo resultado, a empresa pode simplesmente dizer “o computador decidiu” e evitar responsabilidade.

Safiya Noble, professora da UCLA, trouxe essa crítica para o domínio dos mecanismos de busca em seu livro “Algorithms of Oppression” (2018). Noble documenta como o Google Search, longe de ser um árbitro neutro de informação, consistentemente retorna resultados que reforçam estereótipos racistas e sexistas. Pesquisas por termos relacionados a mulheres negras desproporcionalmente retornam conteúdo pornográfico ou denegritório; pesquisas por termos neutros frequentemente assumem branquitude como padrão.

Noble argumenta que isso não é acidental, mas estrutural. O modelo de negócios do Google é construído em torno da publicidade; portanto, seus algoritmos otimizam para engajamento e cliques, não para precisão ou justiça social. Conteúdo sensacionalista, estereotipado e frequentemente ofensivo gera mais engajamento do que informação neutra e factual; portanto, o algoritmo aprende a priorizá-lo.

Além disso, os próprios dados de treinamento refletem uma internet criada por e para usuários predominantemente brancos, masculinos e ocidentais. Quando sistemas de aprendizado de máquina são treinados nestes dados, eles naturalizam e amplificam os preconceitos embutidos neles. O resultado é o que Noble chama de “redlining tecnológico”—exclusão algorítmica que replica e atualiza práticas discriminatórias do passado para a era digital.

Virginia Eubanks, em “Automating Inequality” (2017), examina como sistemas algorítmicos são usados especificamente para vigilância e controle de populações pobres. Ela documenta sistemas automatizados de elegibilidade para assistência social que negam benefícios com base em critérios opacos, sistemas preditivos de bem-estar infantil que desproporcionalmente alvejam famílias pobres e de minorias, e algoritmos de coordenação de serviços para pessoas sem-teto que criam hierarquias moralmente arbitrárias de quem “merece” ajuda.

O trabalho de Eubanks revela uma verdade fundamental: a automação algorítmica não é aplicada igualmente a todas as classes sociais. Pessoas ricas interagem com algoritmos que recomendam filmes e otimizam seus portfólios de investimento. Pessoas pobres interagem com algoritmos que decidem se seus filhos serão removidos de suas casas, se receberão cupons de alimentação, se serão presas preventivamente. A automação, longe de ser um grande equalizador, está sendo usada para aprofundar a vigilância e o controle das classes mais vulneráveis.

Kate Crawford, pesquisadora principal da Microsoft Research (até sua saída) e professora na USC, sintetiza muitas dessas preocupações em “Atlas of AI” (2021), argumentando que devemos entender inteligência artificial não como software descorporificado, mas como uma infraestrutura material massiva extraindo recursos—dados, trabalho, minerais, energia—de regiões e populações vulneráveis para beneficiar elites concentradas em poucos centros globais de poder tecnológico.

Crawford traça as cadeias de suprimento completas da IA: os mineiros congoleses extraindo cobalto para baterias de servidores em condições próximas à escravidão; os trabalhadores de clique em Manila rotulando imagens por centavos; os rios em Oregon sendo sugados para resfriar data centers; as comunidades indígenas no Chile cujos aquíferos estão sendo esgotados para extração de lítio. A IA, argumenta Crawford, não é uma tecnologia limpa e imaterial, mas uma das indústrias extrativas mais intensivas em recursos do planeta.

Parte III: O Capitalismo como Sistema Operacional

A Lógica do Crescimento Ilimitado em um Planeta Finito

Para compreender completamente por que os avisos de cinco décadas de pesquisadores críticos foram sistematicamente ignorados, devemos examinar não apenas as decisões de indivíduos ou empresas específicas, mas a lógica estrutural do sistema econômico no qual essas decisões são tomadas. O capitalismo, particularmente em sua fase neoliberal contemporânea, não é meramente um contexto para o desenvolvimento tecnológico; ele é o sistema operacional que determina quais tecnologias são desenvolvidas, como são implementadas, e quem se beneficia delas.

A característica definidora do capitalismo é a acumulação de capital através da extração de mais-valia—a diferença entre o valor que os trabalhadores criam e a compensação que recebem. Mas o capitalismo não pode simplesmente acumular; ele deve crescer. Uma empresa que não cresce é vista como falhando; uma economia que não cresce está em recessão. Esta necessidade imperativa de crescimento perpétuo cria dinâmicas que são fundamentalmente incompatíveis com desenvolvimento tecnológico responsável.

David Harvey, geógrafo marxista e teórico do capitalismo contemporâneo, descreve o que ele chama de “acumulação por espoliação”—a apropriação de recursos previamente mantidos em comum (terra comunal, conhecimento tradicional, genomas) e sua transformação em commodities privadas. A atual corrida da IA exemplifica perfeitamente este processo. A internet, criada em grande parte com fundos públicos e construída através de contribuições de milhões de pessoas comuns, foi raspada e convertida em conjuntos de dados proprietários. O trabalho criativo de gerações de artistas, escritores e fotógrafos—grande parte disponibilizada livremente com a expectativa de reciprocidade cultural—foi expropriado e transformado em modelos comerciais.

Esta não é inovação; é enclosure digital. Assim como os enclosures dos comuns britânicos nos séculos XVII e XVIII privatizaram terras que haviam sido geridas coletivamente, o treinamento de modelos de IA em dados da internet sem compensação ou consentimento representa uma privatização massiva do comum digital.

A defesa das corporações—que elas estão criando “valor” ao transformar esses dados em ferramentas úteis—recapitula argumentos que justificaram séculos de expropriação colonial. Os colonialistas britânicos argumentaram que estavam “melhorando” terras africanas e asiáticas aplicando técnicas agrícolas europeias; empresas de IA argumentam que estão “liberando valor” de dados aplicando aprendizado de máquina. Em ambos os casos, a lógica é a mesma: aqueles com capital e tecnologia têm o direito de se apropriar de recursos criados ou mantidos por outros, e as pessoas expropriadas deveriam ser gratas pela “eficiência” e “progresso” resultantes.

O Dilema do Prisioneiro Corporativo

A dinâmica competitiva do capitalismo cria o que os economistas chamam de “dilema do prisioneiro iterado” em escala industrial. Mesmo que todas as empresas se beneficiassem coletivamente de uma abordagem mais lenta e mais cuidadosa ao desenvolvimento de IA, nenhuma empresa individual pode se dar ao luxo de desacelerar se seus concorrentes não o fizerem.

Quando Sam Altman, CEO da OpenAI, fala sobre os riscos da IA e a necessidade de regulamentação, ele não está sendo hipócrita (ou pelo menos, não apenas hipócrita); ele está preso em uma contradição estrutural. Como indivíduo, ele pode genuinamente acreditar que o desenvolvimento de IA deve ser mais cuidadoso. Como CEO de uma empresa em competição feroz com Google, Meta, Anthropic e outros, ele não pode se dar ao luxo de desacelerar significativamente sem arriscar tornar-se irrelevante.

Esta é a tragédia dos comuns aplicada à pesquisa de IA. O “comum” aqui é a segurança da civilização humana; cada empresa tem incentivo para explorar esse comum (assumir riscos de segurança para ganhar vantagens competitivas) mesmo sabendo que se todas as empresas fizerem isso, o comum será destruído.

O problema é exacerbado pelo papel dos investidores de capital de risco e mercados públicos. Empresas de tecnologia são avaliadas não com base em seu lucro atual, mas em seu potencial de crescimento futuro e eventual dominação de mercado. Isto cria pressão intensa para priorizar velocidade e escala sobre todas as outras considerações. Uma empresa que diz aos investidores “vamos desacelerar nosso desenvolvimento para garantir que seja seguro e ético” será punida pelos mercados; suas ações cairão e ela será vulnerável a takeover hostil por atores menos escrupulosos.

Shoshana Zuboff, em “The Age of Surveillance Capitalism” (2019), descreve como este modelo de negócios baseado em extração de dados e previsão de comportamento cria incentivos perversos. Empresas não estão simplesmente respondendo às demandas do mercado; elas estão ativamente moldando comportamento humano para torná-lo mais previsível e, portanto, mais lucrativo. Sistemas de IA são otimizados não para o bem-estar humano, mas para métricas como “engajamento” e “tempo na plataforma” que servem aos interesses corporativos.

O resultado é o que Zuboff chama de “instrumentarianismo”—um novo modo de poder baseado na modificação comportamental automatizada. Não é simplesmente que as empresas sabem coisas sobre nós; é que elas usam esse conhecimento para nos fazer fazer coisas que servem a seus objetivos de lucro. E porque a IA permite que isso aconteça em escala massiva e com velocidade sobre-humana, o poder de moldar a sociedade se concentra cada vez mais em um punhado de corporações tecnológicas.

A Financeirização da Inteligência

Uma dinâmica particularmente perigosa da atual corrida da IA é sua profunda integração com mercados financeiros especulativos. As avaliações de empresas de IA são amplamente baseadas não em lucros reais, mas em projeções de domínio futuro de mercado. Isto cria uma dependência estrutural de hype e narrativas grandiosas.

OpenAI, por exemplo, foi recentemente avaliada em mais de 150 bilhões de dólares apesar de operar com enormes perdas. Microsoft investiu mais de 13 bilhões na empresa; a Amazon está investindo bilhões na Anthropic; o Google está lutando para não ficar para trás. Essas somas astronômicas só fazem sentido se assumirmos que a IA eventualmente gerará retornos que justifiquem os investimentos—ou se reconhecermos que estamos em uma bolha especulativa clássica onde todos esperam vender para um “tolo maior” antes que a música pare.

Esta financeirização tem consequências reais para o desenvolvimento técnico. Empresas são incentivadas a fazer anúncios grandiosos e demonstrações impressionantes em vez de trabalho científico sólido. O ciclo de hype—onde cada novo modelo é proclamado como “revolucionário” e “transformador”—não é um efeito colateral acidental, mas uma necessidade estrutural para manter o fluxo de capital de investimento.

Rob Larson, economista e autor de “Bit Tyrants” (2020), argumenta que as empresas de tecnologia representam uma nova forma de monopólio digital, onde efeitos de rede e economias de escala criam barreiras de entrada quase insuperáveis. O vencedor em cada categoria de produto tende a capturar a grande maioria do mercado—Google em busca, Amazon em e-commerce, Facebook/Meta em redes sociais. A corrida da IA é, fundamentalmente, uma corrida para se tornar o monopolista desta próxima onda tecnológica.

Este impulso monopolístico explica por que empresas estão dispostas a operar com prejuízo por anos. Elas não estão tentando construir negócios sustentáveis no sentido tradicional; estão tentando capturar posição dominante em um mercado que, uma vez conquistado, pode gerar lucros monopolísticos por décadas. É a estratégia do Uber e Amazon aplicada à IA: operar com prejuízo usando capital de investimento para eliminar concorrentes, então usar posição dominante para extrair renda.

Parte IV: Os Custos Materiais do Imaterialismo Digital

Água: A Sede da Inteligência Artificial

Um dos aspectos mais perversos da narrativa dominante sobre IA é sua apresentação como tecnologia “limpa” e “imaterial”. Falamos sobre “a nuvem” e “inteligência artificial” como se fossem entidades etéreas, abstratas, sem consequências físicas. Esta retórica cuidadosamente cultivada esconde a realidade brutal: a IA é uma das tecnologias mais intensivas em recursos materiais já desenvolvidas.

Comecemos com a água. Um estudo de 2023 da Universidade da Califórnia Riverside estimou que treinar o GPT-3 consumiu aproximadamente 700.000 litros de água potável limpa. Isso é água usada para resfriar os servidores durante o processo de treinamento computacionalmente intensivo. Mas o treinamento é apenas o começo; cada consulta que fazemos a esses sistemas também consome água.

Pesquisadores estimam que uma conversa de 20 a 50 perguntas com o ChatGPT consome aproximadamente 500 mililitros de água—uma garrafa de água potável. Multiplique isso por centenas de milhões de usuários fazendo múltiplas consultas por dia, e os números se tornam astronômicos. A Microsoft reportou um aumento de 34% no consumo de água em 2022, em grande parte atribuível à expansão de suas operações de IA.

O problema não é apenas a quantidade absoluta de água, mas onde ela está sendo consumida. Data centers são frequentemente construídos em regiões que já enfrentam estresse hídrico—Califórnia, Arizona, partes do Oregon. A água que resfria os servidores da Microsoft ou Google compete diretamente com a água necessária para agricultura, consumo humano e ecossistemas locais.

Em comunidades ao redor do mundo, residentes estão vendo seus poços secarem e suas contas de água subirem enquanto corporações tecnológicas consomem recursos hídricos locais para treinar modelos de IA. Isto não é uma externalidade acidental; é uma transferência direta de um recurso vital de comunidades locais para corporações globais.

Shaolei Ren, professor da UC Riverside que conduziu o estudo sobre consumo de água da IA, tem sido vocal sobre esta questão. Ele argumenta que as empresas têm sido deliberadamente opacas sobre o custo hídrico de suas operações, precisamente porque expor esses números minaria a narrativa de que a IA é uma tecnologia “verde” e “sustentável”.

Energia: A Fome Insaciável

O consumo de energia da IA é igualmente alarmante. Estima-se que treinar um único modelo de linguagem grande emita tanto dióxido de carbono quanto cinco carros durante toda sua vida útil—incluindo o processo de fabricação. Uma consulta ao ChatGPT consome aproximadamente 10 a 25 vezes mais energia do que uma busca tradicional no Google.

Emma Strubell e colegas, em um artigo influente de 2019 intitulado “Energy and Policy Considerations for Deep Learning in NLP”, foram alguns dos primeiros a quantificar sistematicamente a pegada de carbono do treinamento de modelos de IA. Eles descobriram que treinar um único modelo de transformador com arquitetura de busca neural emitiu aproximadamente 284 toneladas de dióxido de carbono equivalente—quase cinco vezes o total de emissões vitalícias de um carro americano médio.

E isso foi antes dos modelos atuais, que são ordens de magnitude maiores. O GPT-4 é estimado ter requerido cerca de 100 milhões de dólares apenas em custos computacionais para treinar. Mesmo assumindo o custo mais baixo de eletricidade industrial, isso representa consumo de energia fenomenal.

Sasha Luccioni, pesquisadora líder em IA e clima na Hugging Face, tem documentado como a corrida para modelos maiores está criando o que ela chama de “Red AI”—em oposição à “Green AI” que seria otimizada para eficiência energética. Luccioni argumenta que a indústria sistematicamente prioriza capacidades de modelo sobre eficiência energética, em parte porque o custo energético é tratado como externalidade (pago pela sociedade através de mudanças climáticas) em vez de custo direto.

A Agência Internacional de Energia projetou que a demanda de eletricidade de data centers, criptomoeda e IA poderia dobrar até 2026. Isto ocorre precisamente quando o mundo precisa desesperadamente reduzir o consumo de energia para evitar os piores efeitos das mudanças climáticas. A IA, apresentada como solução para nossos problemas, está ativamente minando os esforços para descarbonizar a economia global.

Além disso, essa demanda de energia está impulsionando a construção de nova infraestrutura de combustível fóssil. Em regiões onde data centers estão sendo construídos, empresas de serviços públicos estão adiando o desligamento de usinas de carvão ou construindo novas usinas de gás natural para atender à demanda. A transição para energia renovável está sendo atrasada não por falta de tecnologia de energia limpa, mas por falta de vontade de recusar dinheiro de clientes como corporações tecnológicas que precisam de eletricidade massiva e confiável agora.

Minerais: O Custo Humano da Extração

A infraestrutura física da IA requer minerais raros e metais—cobalto para baterias, lítio para armazenamento de energia, elementos de terras raras para componentes eletrônicos. A extração desses materiais tem custos humanos e ambientais devastadores que raramente aparecem nas apresentações corporativas elegantes sobre “transformação digital”.

No leste da República Democrática do Congo, onde mais de 70% do cobalto mundial é extraído, incluindo minas artesanais onde crianças trabalham em condições perigosas por salários de subsistência. A Anistia Internacional documentou extensivamente como o cobalto que alimenta smartphones, laptops e servidores de data center é frequentemente extraído por crianças de até sete anos de idade, trabalhando sem equipamento de segurança adequado em túneis que regularmente desabam.

Siddarth Kara, professor da Escola de Negócios Kellogg e autor de “Cobalt Red: How the Blood of the Congo Powers Our Lives” (2023), estima que pelo menos 40.000 crianças trabalham em minas de cobalto no Congo. Estas crianças estão extraindo o material que, eventualmente, acaba em data centers executando sistemas de IA enquanto CEOs de tecnologia dão palestras sobre tornar o mundo um lugar melhor.

No “triângulo do lítio” da América do Sul—partes do Chile, Argentina e Bolívia—a extração de lítio para baterias está esgotando aquíferos ancestrais e deslocando comunidades indígenas. Estas populações, que gerenciaram recursos hídricos sustentavelmente por séculos, estão sendo forçadas a abandonar terras tradicionais porque corporações multinacionais precisam de lítio para alimentar o próximo ciclo de crescimento tecnológico.

A violência desta extração não é incidental; é constitutiva. A IA não poderia existir em sua forma atual sem essa expropriação massiva de recursos e exploração de trabalho. A “magia” de perguntar ao ChatGPT uma pergunta e receber uma resposta instantânea depende de cadeias de suprimento globais construídas sobre injustiça fundamental.

Parte V: A Epistemologia da Alucinação

Quando Papagaios Mentem com Confiança

Além dos custos econômicos, ambientais e humanos da corrida da IA, existe um problema epistemológico fundamental que ameaça a própria infraestrutura de conhecimento da sociedade. Grandes modelos de linguagem “alucinam”—eles inventam fatos com absoluta confiança, citam artigos científicos que não existem, fabricam precedentes legais, e geralmente produzem saídas que são fluentes mas factuais falsas.

Este problema não é um bug que será corrigido nas próximas iterações; é uma característica fundamental de como esses sistemas funcionam. Eles são treinados para prever a próxima palavra mais provável em uma sequência, não para verificar verdade ou manter coerência factual. Quando uma “alucinação” é linguisticamente plausível, o modelo a produzirá, independentemente de sua relação com a realidade.

Gary Marcus tem sido particularmente insistente sobre este ponto. Em numerosos artigos e apresentações, ele demonstra que LLMs falham consistentemente em tarefas básicas de raciocínio lógico, aritmética e compreensão causal. Eles podem produzir texto que soa inteligente, mas quando confrontados com cenários que exigem raciocínio genuíno em vez de correspondência de padrões, eles falham espetacularmente.

O problema é que essas falhas não são óbvias para usuários casuais. Um advogado usando ChatGPT para pesquisa legal pode não perceber que as citações de casos são fabricadas até que seja tarde demais. Um estudante usando IA para pesquisa acadêmica pode não verificar que as “referências” são inventadas. Um médico usando IA como ferramenta de diagnóstico pode não perceber que as recomendações são baseadas em correlações espúrias em vez de compreensão médica genuína.

Chirag Shah e Emily Bender, em um artigo de 2023, argumentam que a integração de LLMs em mecanismos de busca representa uma ameaça existencial à integridade informacional. Quando sistemas que frequentemente produzem desinformação são posicionados como fontes autoritativas de informação, todo o ecossistema de conhecimento é envenenado. Usuários não podem mais confiar que informações recuperadas através de busca são verificadas ou precisas.

Isto é exacerbado pelo que pesquisadores chamam de “viés de automação”—a tendência humana de confiar excessivamente em saídas de sistemas computacionais. Quando um computador diz algo, tendemos a acreditar que é mais confiável do que se um humano dissesse a mesma coisa, mesmo quando não há base para essa suposição. LLMs exploram esse viés, apresentando alucinações com a mesma confiança e autoridade que apresentam fatos reais.

A Poluição do Commons Informacional

O problema vai além de usuários individuais sendo enganados. A proliferação de conteúdo gerado por IA está poluindo a internet em escala massiva. Sites de conteúdo farm usam IA para gerar milhares de artigos de baixa qualidade otimizados para SEO. Bots de redes sociais inundam plataformas com comentários e postagens gerados por IA. Até repositórios acadêmicos estão sendo contaminados com artigos escritos por IA que passaram por processos de revisão por pares inadequados.

O resultado é o que alguns pesquisadores chamam de “colapso do modelo”—quando modelos futuros de IA são treinados em dados que incluem saídas de modelos de IA anteriores, a qualidade degrada iterativamente. É o equivalente digital de fazer fotocópias de fotocópias; cada geração perde fidelidade até que o resultado final seja incompreensível.

Mais fundamentalmente, a internet—que uma vez prometeu democratizar acesso à informação—está se tornando cada vez mais difícil de navegar para encontrar informação de qualidade real. Quando você pesquisa uma questão, você cada vez mais encontra páginas geradas por IA que parecem autoritativas mas são factualmente suspeitas. O custo de verificar informação está subindo; a confiança em fontes online está caindo.

Renée DiResta, diretora de pesquisa do Stanford Internet Observatory, tem documentado como essa poluição informacional interage com campanhas de desinformação coordenadas. Atores estatais e não estatais estão usando IA generativa para produzir volumes sem precedentes de propaganda direcionada, material de campanha eleitoral enganoso e teorias da conspiração. A capacidade de verificar e combater essa desinformação está ficando cada vez mais atrás da capacidade de produzi-la.

Parte VI: Soluções Falsas e Caminhos Alternativos

Por que a Regulamentação Não É Suficiente

Diante das críticas esmagadoras documentadas neste ensaio, a resposta padrão de líderes da indústria e políticos é invocar “regulamentação responsável” ou “estruturas éticas de IA”. Sam Altman, da OpenAI, e Sundar Pichai, do Google, regularmente testemunham perante o Congresso dos EUA pedindo por regulamentação. A União Europeia aprovou o AI Act. Há proliferação de comitês de ética de IA em empresas e governos.

Este foco em regulamentação, embora não seja totalmente inútil, fundamentalmente falha em abordar a questão estrutural. O problema não é simplesmente que precisamos de “melhores regras”; é que a lógica do capitalismo competitivo cria incentivos que sistematicamente minam qualquer estrutura regulatória.

Meredith Whittaker tem sido particularmente eloquente sobre este ponto. Ela argumenta que “ética de IA” tornou-se uma forma de “ethics washing”—um exercício de relações públicas que permite às empresas afirmar compromisso com valores sociais enquanto fazem mudanças materiais mínimas em suas práticas. Empresas criam comitês de ética, publicam princípios de IA responsável e patrocinam conferências sobre IA ética—tudo isso enquanto continuam a implantar sistemas que causam danos documentados.

O problema estrutural é que regulamentação opera em um horizonte de tempo fundamentalmente diferente da inovação tecnológica. Reguladores levam anos para desenvolver expertise, rascunhar legislação, navegar processos políticos e implementar novas regras. Durante esse tempo, a tecnologia avançou múltiplas gerações. As empresas então argumentam que as regulamentações propostas são “obsoletas” ou “sufocariam a inovação”, forçando outro ciclo de deliberação enquanto elas continuam operando sem restrições significativas.

Além disso, regulamentação frequentemente é capturada pela indústria que supostamente regula. Empresas de tecnologia empregam exércitos de lobistas, financiam think tanks e cultivam relacionamentos com reguladores, moldando sutilmente as regras a seu favor. O resultado é frequentemente regulamentação que parece rigorosa mas tem lacunas vastas que permitem que práticas prejudiciais continuem.

Frank Pasquale, professor de direito e autor de “New Laws of Robotics” (2020), argumenta por uma abordagem radicalmente diferente. Em vez de tentar regular a IA como uma tecnologia neutra que pode ser tornada “ética” com as regras certas, Pasquale propõe que certas aplicações de IA devem ser simplesmente proibidas—especialmente aquelas que envolvem vigilância invasiva, controle social ou substituição de julgamento humano em contextos onde considerações morais são centrais.

Alternativas: Democracia Tecnológica e o Comum Digital

Se regulamentação sozinha é insuficiente, quais são as alternativas? Uma crescente corrente de pensamento defende o que poderia ser chamado de “democracia tecnológica”—a ideia de que decisões sobre desenvolvimento e implantação tecnológicos devem ser tomadas democraticamente pela sociedade como um todo, não por executivos corporativos e investidores de capital de risco.

Nathan Schneider, professor de estudos de mídia e autor de “Everything for Everyone” (2018), tem sido um defensor líder do que ele chama de “propriedade de plataforma”—modelos onde tecnologias digitais são propriedade e governadas por suas comunidades de usuários em vez de acionistas corporativos. Schneider documenta cooperativas digitais bem-sucedidas, fundos comunitários de tecnologia e outros modelos que demonstram que alternativas ao capitalismo de plataforma não são apenas idealmente desejáveis mas praticamente viáveis.

Evgeny Morozov, crítico de tecnologia e autor de “To Save Everything, Click Here” (2013), vai mais longe, argumentando por completa socialização das empresas de tecnologia dominantes. Morozov argumenta que empresas como Google, Amazon e Microsoft exercem tanto poder sobre infraestrutura digital fundamental que se tornaram efetivamente serviços públicos e devem ser tratadas como tal—propriedade pública, governança democrática, operadas para bem social em vez de lucro privado.

A ideia não é tão radical quanto pode soar inicialmente. No século XX, muitas democracias nacionalizaram setores de infraestrutura essencial—telecomunicações, eletricidade, água, transporte—reconhecendo que algumas tecnologias são importantes demais para serem deixadas apenas aos caprichos do mercado. A infraestrutura digital do século XXI é sem dúvida igualmente essencial.

Nick Srnicek e Alex Williams, em “Inventing the Future” (2015), propõem o que eles chamam de “modernismo de esquerda” ou “aceleracionismo de esquerda”—rejeitar tanto a tecnofobia luddita quanto o tecno-otimismo ingênuo em favor de uma política que deliberadamente orienta desenvolvimento tecnológico para fins emancipatórios. Isto exigiria não desacelerar a inovação tecnológica per se, mas capturar seus benefícios para a sociedade como um todo em vez de permitir que sejam privatizados por elites.

Em termos concretos, isso poderia significar modelos de IA de código aberto desenvolvidos por consórcios públicos em vez de laboratórios corporativos proprietários; algoritmos cujas lógicas de decisão sejam transparentes e auditáveis publicamente; plataformas digitais operadas como utilidades públicas com supervisão democrática em vez de ditados corporativos.

Conclusão: Escolhendo Futuros

Este ensaio documentou uma divisão profunda na comunidade científica—entre aqueles acelerando o desenvolvimento de IA no serviço da acumulação de capital e aqueles soando alarme sobre os custos humanos, ambientais, epistemológicos e existenciais desta corrida. Mais fundamentalmente, ele argumentou que esta não é apenas uma disputa técnica sobre o ritmo apropriado de inovação, mas uma luta política sobre que tipo de futuro iremos construir.

A narrativa dominante apresenta a IA como progresso inevitável, a próxima onda de inovação tecnológica tão certa quanto o nascer do sol. Esta narrativa serve propósitos ideológicos específicos: naturaliza decisões que são na verdade escolhas políticas contestáveis; obscurece distribuições de poder e benefício; e posiciona críticos como obstáculos reacionários ao progresso em vez de participantes legítimos em debate democrático sobre nosso futuro coletivo.

A realidade é que não existe nada de inevitável sobre a trajetória atual. Toda escolha técnica—quais sistemas construir, como desenvolvê-los, quem deve se beneficiar, que custos são aceitáveis—é uma escolha política que reflete valores e serve interesses. A atual corrida da IA não é guiada por lógica técnica neutra, mas pela lógica do capitalismo competitivo: crescimento perpétuo, acumulação de capital, concentração de poder.

Os pesquisadores críticos documentados neste ensaio—de Joseph Weizenbaum nos anos 1970 a Timnit Gebru hoje—não são tecnofóbicos ludditas. Muitos deles fizeram contribuições fundamentais para o campo da computação. Sua crítica não é à tecnologia em si, mas a como ela está sendo desenvolvida, por quem, para quem, e com que consequências.

Eles nos pedem para considerar questões que a narrativa dominante marginaliza: Quem se beneficia quando artistas são substituídos por geradores de imagem de IA? Quem paga quando data centers sugam aquíferos locais? Quem sofre quando algoritmos de contratação automatizam discriminação? Quem decide quando os riscos de sistemas cada vez mais potentes se tornam aceitáveis?

Estas são fundamentalmente questões de poder, não de eficiência técnica. E respondê-las requer confrontar verdades desconfortáveis sobre como o capitalismo contemporâneo opera—como ele concentra riqueza enquanto socializa riscos, como valoriza crescimento sobre sustentabilidade, como trata trabalhadores como recursos descartáveis e o planeta como externalidade.

O custo de continuar na trajetória atual não é apenas econômico ou ambiental, mas civilizacional. Estamos construindo sistemas cujos funcionamentos não compreendemos completamente, implantando-os em domínios onde erros têm consequências profundas, e acelerando seu desenvolvimento em uma corrida competitiva que torna a cautela estruturalmente impossível.

Os Três Futuros

Podemos vislumbrar três trajetórias possíveis, cada uma já se manifestando em formas embrionárias:

Futuro 1: Colapso da Bolha e Retrocesso

O primeiro cenário é que a atual bolha de IA estoura—investidores percebem que os retornos projetados não se materializarão, o financiamento seca, empresas que queimaram bilhões em busca de domínio de mercado implodem. Este não seria necessariamente um resultado positivo. O colapso poderia arrastar economias inteiras, destruir fundos de pensão, desencadear desemprego massivo e gerar retrocesso contra tecnologia que prejudica pesquisa legítima e necessária.

Mais perigosamente, um colapso poderia levar ao que Evgeny Morozov chama de “solucionismo” reacionário—a conclusão equivocada de que o problema era a tecnologia em si, em vez da forma particular como foi desenvolvida e implantada sob capitalismo. Isto poderia fortalecer forças políticas autoritárias ou nativistas que exploram deslocamento tecnológico para fins antidemocráticos.

Futuro 2: Consolidação Distópica

O segundo cenário é que a corrida continua sua trajetória atual, com algumas empresas eventualmente emergindo como vencedoras. Estas corporações alcançam algo próximo de monopólio sobre infraestrutura de IA, assim como Google domina busca e Amazon domina e-commerce. Elas então usam esta posição para extrair renda de toda atividade econômica que depende de suas plataformas.

Neste futuro, IA não substitui trabalho humano uniformemente, mas polariza o mercado de trabalho. Uma pequena elite de trabalhadores técnicos altamente compensados projeta e mantém sistemas de IA; uma classe gerencial supervisiona sua implantação; e a grande maioria da população trabalha em empregos precários de baixa qualificação que não podem ser automatizados economicamente—cuidadores, trabalhadores de serviços, o que Ursula Huws chama de “cybertariat”.

A desigualdade de riqueza, já extrema, acelera à medida que produtividade aumenta mas seus benefícios fluem quase inteiramente para proprietários de capital e elites técnicas. Sistemas de vigilância algorítmica tornam-se onipresentes, monitorando trabalhadores, prevendo comportamento, moldando escolhas. A democracia torna-se cada vez mais formal enquanto poder real se concentra em corporações não eleitas que controlam infraestrutura digital essencial.

Este é o futuro que Shoshana Zuboff alerta—um “instrumentarianismo” totalizante onde a modificação comportamental automatizada substitui a liberdade humana, e corporações de tecnologia exercem poder que rivaliza com estados-nação mas sem qualquer responsabilidade democrática.

Futuro 3: Comum Digital Democrático

O terceiro cenário exige transformação política fundamental. A infraestrutura digital—incluindo sistemas de IA—é reconhecida como bem público essencial e colocada sob propriedade e governança democrática. Isto não significa burocracia estatal pesada, mas uma pluralidade de modelos: cooperativas digitais, trusts públicos, laboratórios de pesquisa financiados por fundos comunitários, padrões abertos aplicados rigorosamente.

O desenvolvimento tecnológico seria orientado por necessidades sociais democraticamente determinadas em vez de oportunidades de lucro. Pesquisadores não seriam pressionados a publicar modelos prematuros para conquistar mercado, mas poderiam trabalhar deliberadamente, com transparência total e supervisão pública significativa. Os benefícios da automação seriam socializados através de mecanismos como renda básica universal, semana de trabalho reduzida e expansão de serviços públicos.

Trabalho criativo seria protegido, não expropriado—artistas compensados quando seu trabalho treina modelos, com controle sobre como suas criações são usadas. Recursos ambientais seriam tratados como restrições reais, não externalidades a serem ignoradas. O objetivo seria tecnologia que aumenta capacidade humana e liberdade, não que substitui julgamento humano ou concentra poder.

Este futuro não é utópico no sentido de impossível; é simplesmente incompatível com a lógica dominante de capitalismo neoliberal. Exigiria transformação no nível de sistemas de propriedade, estruturas de governança e pressupostos econômicos fundamentais.

O Momento de Decisão

Historiadores do futuro, se houver historiadores do futuro, olharão para este momento como crítico. Estamos desenvolvendo tecnologias com capacidade de transformar fundamentalmente a civilização humana—para o bem ou para o mal. Ainda temos escolha sobre que direção essa transformação toma. Mas a janela está se fechando.

A lógica da competição capitalista está nos empurrando em direção ao Futuro 2—consolidação distópica. A possibilidade de Futuro 1—colapso—paira como espectro, talvez mais provável do que os proponentes admitem. Futuro 3—um comum digital democrático—exige ação política coletiva em escala que ainda não se materializou.

Os cientistas da computação e pesquisadores de IA discutidos neste ensaio estão fazendo seu papel: soando o alarme, documentando danos, propondo alternativas. Mas mudança transformacional não virá de expertise técnica sozinha. Ela requer movimentos sociais amplos, ação política coordenada e disposição para confrontar estruturas de poder arraigadas.

Epílogo: Lembrando a Agência Humana

Talvez a mais profunda violência da narrativa dominante sobre IA seja como ela nega agência humana. Somos apresentados ao “progresso tecnológico” como força natural—como clima ou gravidade—à qual devemos nos adaptar em vez de escolher direcionar. Empresários tecnológicos falam sobre “não frear a inovação” como se inovação fosse rio que flui naturalmente morro abaixo, em vez de processo moldado por milhares de decisões humanas sobre alocação de recursos, prioridades de pesquisa e estruturas regulatórias.

Mas tecnologia não é autônoma. Sistemas de IA não aparecem através de algum processo evolutivo inevitável. Eles são construídos por humanos, financiados por humanos, implantados por humanos, em serviço de objetivos humanos—ainda que esses humanos sejam principalmente CEOs de tecnologia, investidores de capital de risco e acionistas corporativos cujos objetivos não se alinham com bem-estar humano coletivo.

Joseph Weizenbaum, em suas palestras finais antes de sua morte em 2008, insistiu neste ponto acima de todos os outros: computadores são ferramentas criadas por humanos. Eles não têm objetivos ou valores próprios. Quando sistemas computacionais causam dano, não é porque a tecnologia é inerentemente problemática, mas porque humanos fizeram escolhas sobre como construir e implantá-la. E o que humanos escolheram fazer, humanos podem escolher desfazer ou fazer diferentemente.

Esta é uma mensagem tanto de responsabilidade quanto de esperança. Responsabilidade porque não podemos culpar “algoritmos” ou “a IA” por danos que rastreiam até decisões humanas sobre valores, prioridades e distribuição de poder. Esperança porque se esses problemas resultam de escolhas humanas, então escolhas humanas diferentes podem produzir resultados diferentes.

A questão central não é “A IA vai salvar ou destruir a humanidade?” mas “Quem decide como tecnologias de IA são desenvolvidas e implantadas, em serviço de quais interesses, com que salvaguardas, e com que distribuição de benefícios e custos?” Esta é uma questão política, não técnica. E questões políticas são resolvidas através de luta, não de inevitabilidade tecnológica.

Os pesquisadores críticos documentados neste ensaio—Timnit Gebru, Emily Bender, Meredith Whittaker, Gary Marcus, Geoffrey Hinton, Eliezer Yudkowsky, Cathy O’Neil, Safiya Noble, Virginia Eubanks, Kate Crawford, Sasha Luccioni e dezenas de outros—estão engajados nessa luta. Eles estão insistindo que outra trajetória é possível. Eles estão recusando-se a aceitar que devemos escolher entre aceleração imprudente ou estagnação luddita. Eles estão argumentando que podemos ter tecnologia poderosa que serve propósitos humanos, mas apenas se confrontarmos as estruturas de poder que atualmente moldam desenvolvimento tecnológico.

Sua dissidência não é pessimismo, mas recusa a aceitar como inevitável aquilo que é meramente lucrativo para poucos e custoso para muitos. É um lembrete de que sempre houve e sempre haverá alternativas, que o futuro não é determinado por leis imutáveis de progresso tecnológico, mas por conflito político sobre valores, prioridades e poder.

A corrida da IA, portanto, não é principalmente uma história sobre tecnologia. É uma história sobre capitalismo, poder e a luta contínua sobre que tipo de sociedade construiremos. Os próximos anos determinarão se permitiremos que um punhado de corporações tecnológicas moldem nosso futuro coletivo na busca de lucro privado, ou se exerceremos controle democrático sobre tecnologias que afetam fundamentalmente como vivemos, trabalhamos e nos relacionamos uns com os outros.

Os cientistas estão avisando. A questão é: estamos ouvindo?

---

Bibliografia Selecionada e Leituras Adicionais

Crítica Ética e Social:

• Gebru, Timnit, et al. “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” (2021)
• Bender, Emily M., e Koller, Alexander. “Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data” (2020)
• Noble, Safiya Umoja. “Algorithms of Oppression: How Search Engines Reinforce Racism” (2018)
• O’Neil, Cathy. “Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy” (2016)
• Eubanks, Virginia. “Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor” (2017)
• Crawford, Kate. “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” (2021)

Economia Política e Capitalismo de Vigilância:

• Zuboff, Shoshana. “The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power” (2019)
• Srnicek, Nick. “Platform Capitalism” (2017)
• Pasquale, Frank. “The Black Box Society: The Secret Algorithms That Control Money and Information” (2015)
• Morozov, Evgeny. “To Save Everything, Click Here: The Folly of Technological Solutionism” (2013)

Impacto Ambiental:

• Luccioni, Sasha, et al. “Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model” (2022)
• Strubell, Emma, et al. “Energy and Policy Considerations for Deep Learning in NLP” (2019)
• Crawford, Kate e Joler, Vladan. “Anatomy of an AI System” (2018)

Risco Existencial e Alinhamento:

• Bostrom, Nick. “Superintelligence: Paths, Dangers, Strategies” (2014)
• Russell, Stuart. “Human Compatible: Artificial Intelligence and the Problem of Control” (2019)
• Yudkowsky, Eliezer. “AGI Ruin: A List of Lethalities” (2022)

Crítica Técnica:

• Marcus, Gary. “The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence” (2020)
• Marcus, Gary e Davis, Ernest. “Rebooting AI: Building Artificial Intelligence We Can Trust” (2019)

História e Filosofia:

• Weizenbaum, Joseph. “Computer Power and Human Reason: From Judgment to Calculation” (1976)
• Winner, Langdon. “Do Artifacts Have Politics?” (1980)
• Mumford, Lewis. “The Myth of the Machine” (1967-1970)

Alternativas e Futuros:

• Schneider, Nathan. “Everything for Everyone: The Radical Tradition That Is Shaping the Next Economy” (2018)
• Srnicek, Nick e Williams, Alex. “Inventing the Future: Postcapitalism and a World Without Work” (2015)
• Scholz, Trebor. “Platform Cooperativism: Challenging the Corporate Sharing Economy” (2016)