O Império da IA, com Karen Hao

Em 2019 — tempos mais simples! — a jornalista Karen Hao foi fazer o primeiro “perfil” jornalístico da sua carreira, aquelas reportagens em que um jornalista passa dias acompanhando uma pessoa ou empresa, uma coisa meio biografia, meio retrato congelado no tempo.

A tal empresa era uma startup do Vale do Silício, ainda pequena e desconhecida dos meros mortais como eu e você, mas que hoje é a mais valiosa da história: a OpenAI, também conhecida como “a criadora do ChatGPT”.

A Karen Hao vendeu o projeto do perfil para o MIT Technology Review porque a OpenAI parecia, naquela época, uma startup diferente. O “open” no nome nasceu da visão de que inteligência artificial é um assunto tão importante para o futuro da humanidade que precisava ser explorado de um jeito aberto, compartilhando conhecimento com todo mundo, e mais preocupado em proteger esse tal futuro do que em só gerar lucro.

Hoje, aqui direto de 2026, a gente já sabe que não foi exatamente isso que aconteceu. Com o tempo, a OpenAI se transformou numa empresa oficialmente voltada para o lucro como qualquer outra e chegou a ser processada por Elon Musk — um dos apoiadores iniciais do projeto — por quebrar essa promessa de ser ‘open’. Em maio, o Elno perdeu a causa, e a OpenAI agora se prepara para lançar as ações na bolsa e, pelos números atuais, já largar valendo mais de 1 trilhão de dólares.

Mesmo em 2019, a Karen Hao sentiu que todo esse papo de “open” não era bem assim: segredos e competitividade em todas as conversas que ela ouvia na empresa. Publicou o tal perfil contando isso e o pessoal da OpenAI… não gostou muito. Achou que ela ia só falar bem deles, e a empresa cortou contato com ela por três anos.

Até que, em maio do ano passado, ela lançou nos EUA o livro O império da IA: Por dentro da corrida irresponsável pela dominação total, que segue contando a história da OpenAI — e abre com a bizarra saída do Sam Altman, demitido do cargo de CEO por “nem sempre falar a verdade” ao conselho da empresa, para voltar quatro dias depois nos braços dos funcionários.

Mas esse livro não é exatamente uma biografia da OpenAI. Para mim, é mais um retrato de todo o sistema empresarial em que vivemos hoje — inteligência artificial ou não. O importante é que ele acabou de sair no Brasil pela Editora Rocco, que me procurou para saber se eu queria entrevistá-la aqui no programa, aproveitando que ela veio participar do Esquenta do Congresso Internacional de Jornalismo Investigativo da Associação Brasileira de Jornalismo Investigativo. O congresso, aliás, acontece dia 30 de julho — vai lá no site da Abraji saber mais, quem sabe comprar seu ingresso.

Mas enfim, claro que eu queria conversar com ela. Obrigado, Abraji, obrigado, pessoal da Rocco, pelo presente. Quem me conhece sabe que IA agora é um assunto muuuito importante no meu trabalho. Eu fico aqui tentando navegar o meio do caminho entre o fim do mundo exterminador do futuro e a utopia vendida por muita gente. Não acredito em nenhum dos dois cenários, falei disso com a Karen antes e durante a conversa. Mas no final da entrevista a gente volta para falar não só disso, como também de como o IA em Curso, minha comunidade de letramento contínuo em IA, se conecta com tudo. Com promoção? Pode ser. Quem ficar até o fim, verá.

A entrevista foi gravada em inglês — a Karen também fala mandarim, mas não fala brazilian —, então vai funcionar assim. Se ouvir no áudio, vai ser a versão original, do mesmo jeito que foi com o Ted Chiang ano passado, para você botar o seu cursinho para trabalhar. Aqui no site boanoiteinternet.com.br você está acompanhando a transcrição completa traduzida, se quiser ler enquanto ouve. E no YouTube tem uma versão legendada. Assim, você entra na conversa do jeito que preferir.

Combinado? Então, bora lá entender O Império da IA com Karen Hao, no Boa Noite Internet.

Cris: Karen Hao, bem-vinda ao Boa Noite Internet.

Karen Hao: Obrigada pelo convite.

Cris: Que bom ter você aqui. Espero que o Brasil esteja te tratando bem durante a Copa do Mundo — a gente veio falar sobre isso. Hoje é dia de falar de futebol, de Copa do Mundo, quais são as chances de cada país. Mas a primeira coisa que você precisa saber sobre essa conversa é que eu não sou jornalista. Não sei fazer isso. Peço desculpas antecipadas à sua profissão e ao seu ofício.

Além disso, você foi enganada. Eu não estou aqui pra te entrevistar. Isso aqui é uma sessão de terapia. Você vai me ajudar a superar meus traumas.

Porque eu sou da… do que eu chamo de “geração esquecida” — sou geração X, nasci nos anos 70. Esquecida porque, nessa guerra de gerações, as pessoas esquecem que a gente existe, e isso é incrível, porque a gente causou muito estrago no planeta. O Elon Musk é geração X, então é só isso que você precisa saber sobre a minha turma. Gente como ele, ou como Marc Andreessen… eu cresci lendo e assistindo à ficção científica que dizia que tecnologia é a melhor coisa do mundo, que ciência e engenheiros são incríveis e vão nos levar pra um lugar incrível.

Sou uma daquelas pessoas que, quando a internet surgiu, falou: a paz mundial está logo ali. O conhecimento a um clique de distância, o futuro vai ser incrível. E aqui estamos nós. Então, quando usei o GPT pela primeira vez, e depois o ChatGPT, fiquei super empolgado. Foi a primeira vez, desde a internet, que eu fiquei realmente empolgado.

Tenho até uma certa fama de ser mal-humorado com tecnologia: Bitcoin é lavagem de dinheiro, Clubhouse não presta — e as pessoas, ah, Clubhouse é a próxima grande coisa. Mas quando a IA chegou, eu falei: isso é importante. Só que eu já não era mais aquela criança dos anos 70. Tinha crescido, tinha visto o que aconteceu com a internet, tinha trabalhado numa big tech. E estava em desespero com o sistema em que a IA estava sendo construída.

Dito tudo isso, o seu livro, aqui, já nas livrarias, recebe provavelmente o melhor elogio que eu posso dar: é otimista. Não é uma lista de reclamações e gente má fazendo coisas más. Claro, você fala muito sobre a OpenAI — ela é o fio condutor da história, especialmente aqueles quatro dias em que o Sam Altman saiu e voltou. E é muito divertido de ler. Mas você toma o cuidado de ser otimista.

E uma das coisas que você menciona é como as pessoas na OpenAI, e em todas essas empresas, dizem: “isso é inevitável, a gente tem que fazer”. Quero falar sobre isso. Mas a gente tem que começar pela pergunta que você provavelmente ouve em todo podcast, a do título — Império da IA. Por que império?

E acho que essa pergunta é ainda mais relevante no Brasil, país do sul global, colonizado. Por que império da IA?

Karen Hao: Antes de mais nada, obrigada por dizer que o livro é otimista. Muita gente não reconhece isso, mas é verdade. Eu escrevo com um profundo otimismo de que os danos que a gente vê podem mudar. Não faria o trabalho que faço se não achasse que as coisas vão mudar.

Sobre por que eu uso a expressão império, ou império da IA: a forma como empresas como a OpenAI operam é impressionantemente parecida com a dos impérios antigos. Eu traço quatro paralelos no livro. O primeiro é que elas reivindicam recursos que não são delas — os dados das pessoas, a propriedade intelectual de artistas, criadores como você, jornalistas.

Segundo, elas exploram uma quantidade extraordinária de mão de obra. Isso vale tanto para os trabalhadores da cadeia de produção de IA, mal pagos e maltratados, que ainda assim geram uma riqueza extraordinária para essas empresas, quanto para os trabalhadores cujos empregos são automatizados e cujos direitos são corroídos pela implantação dessas tecnologias em diferentes setores.

A terceira característica é que impérios controlam os fluxos de informação na sociedade. Essas empresas censuram a pesquisa fundamental sobre essas tecnologias, o que limita nossa capacidade de entender as verdadeiras limitações e capacidades dos modelos que desenvolvem. E estão criando uma tecnologia de informação que tentam transformar no portal único pelo qual qualquer pessoa se relaciona com o mundo.

Esse portal impregna as ideologias do Vale do Silício, seus sistemas de valores, sua língua, e projeta a hegemonia do inglês. Isso influencia boa parte do conhecimento que a gente vai produzir daqui pra frente, porque cientistas e educadores usam essas plataformas e acabam perpetuando essas mesmas ideologias e valores.

E o quarto e último paralelo é que impérios sempre se agarram a uma narrativa existencial ou moral sobre por que precisam existir. Essas empresas fazem a mesma coisa. Dizem que são o “império do bem”, numa missão civilizatória de trazer progresso e modernidade pra toda a humanidade, competindo contra um “império do mal” que ameaça mandar a humanidade pro inferno.

Quando você conversa com algumas pessoas dentro dessas empresas, ou que as lideram, elas dizem: se você nos deixar construir uma inteligência artificial geral, que elas de alguma forma moldam como um deus, a gente vai acabar numa espécie de utopia, um paraíso onde a mudança climática é resolvida, o câncer é curado, a pobreza é aliviada.

Mas, se os caras maus conseguirem isso antes, a gente pode acabar com todos os humanos mortos — um risco de extinção pra todos nós.

Cris: E eles vêm dizendo isso há quase dez anos, e ainda usam como ferramenta. A gente está num país que foi influenciado por três impérios ao longo da história: Portugal, Inglaterra e agora os Estados Unidos. Então a gente olha pra essas empresas de um jeito meio cínico: sim, sim, já conhecemos essa história.

Mas, ao mesmo tempo, ano passado, o Pew Research Center fez uma pesquisa sobre como o mundo enxerga a IA, e o sul global é bem mais otimista do que o norte. Uma das razões é a ideia de democratizar — não só informação, mas: ah, finalmente eu posso montar uma startup, sair desse lugar de exploração e criar o unicórnio de um bilhão de dólares. Os números são grandes na China. Países em desenvolvimento veem muito mais benefício do que risco na IA.

China, 83%. Tailândia, 77%. Holanda, 36%. Canadá, 40%. Será que a gente está deixando passar alguma coisa? A gente está certo? Isso está democratizando mesmo? Até que ponto?

Karen Hao: Provavelmente tem duas razões. Uma é que muitos dos danos que a indústria de IA causa à maioria global são bem escondidos. Ela se esforça muito pra esconder como polui o ambiente dessas comunidades, como explora e devasta a mão de obra, deixando traumas psicológicos — como documento no livro.

E, recentemente, li um artigo de opinião no New York Times que trazia um bom ponto: muitas economias desenvolvidas estão especialmente atentas ao potencial da IA de desmontar oportunidades de emprego de tempo integral. A gente começa a ver isso cada vez mais. Já na maioria global, muito mais gente vive em economias informais, e aí a ideia de que a IA vai tomar um emprego de tempo integral não pesa tanto.

Então os danos mais visíveis — a erosão do emprego formal de tempo integral — pesam mais no norte global, ou pelo menos é lá que as pessoas se sentem mais ansiosas. E os danos invisíveis, que atingem o sul global, ninguém percebe tanto, justamente porque são invisíveis. É meio por isso que tanta gente sente essa divisão que aparece na pesquisa do Pew.

Cris: Eu tenho acompanhado as notícias sobre IA no Brasil, e toda semana tem um novo data center sendo construído em alguma cidade. Isso é vendido como uma coisa boa: que ótimo investimento, gera emprego. E me fez pensar de novo — a gente passou por três impérios, mas algumas famílias no Brasil, e aposto que em outros lugares também, estão no poder há 500 anos ao longo da história do país.

Então, ao mesmo tempo, a gente pensa: é, estamos sendo explorados, é a mesma coisa. Eu já não tenho emprego, então deixa eu usar essa tecnologia pra melhorar minha vida. Mas as pessoas que realmente tomam as decisões, de novo, nos últimos 500 anos, se perguntaram: como a gente ajuda esse pessoal a explorar nosso país de um jeito que nos mantenha no poder e nos dê muito dinheiro?

Mas também foi verdade que, sei lá, a Volkswagen abre uma fábrica no Brasil e aquilo gera emprego, contrata gente pro chão de fábrica e pros escritórios. Como é que isso é diferente com a IA?

Karen Hao: De certa forma, não é diferente. Existe um fenômeno parecido: a indústria de IA terceiriza muitos dos trabalhos que ela não quer dentro dos centros de poder, e joga isso pra comunidades empobrecidas, do mesmo jeito que outras multinacionais fizeram por décadas.

Mas também é diferente, porque a escala dos impactos trabalhistas e ambientais da IA é completamente outra, muito maior que a da indústria automobilística ou da moda. E a velocidade é outra, porque são tecnologias digitais que atravessam fronteiras muito rápido.

E é diferente porque a maioria das pessoas não percebe que a IA, mesmo sendo tecnologia digital, tem uma cadeia de suprimentos muito física e intensiva em mão de obra manual.

Quando você compra roupa, café, um carro, é mais óbvio que existem materiais que precisam ser extraídos e depois manuseados por pessoas pra criar aquele produto. Já com a IA, a maioria aceita a narrativa que o Vale do Silício projeta: a de que isso vem da “nuvem”, desses espaços etéreos que parecem nem existir no planeta. E a verdade é exatamente o oposto.

Ela depende de uma quantidade extraordinária de extração mineral. Depende da construção de infraestruturas enormes — data centers, instalações de supercomputação espalhadas pelo mundo. E depende de muita, muita mão de obra manual: trabalhadores de dados que limpam, preparam e moderam o conteúdo dos sistemas de IA que chegam até você quando usa o ChatGPT.

É isso que a torna tão diferente. E há também uma ideologia completamente diferente sustentando a expansão da IA. Quando você conversa com executivos da moda, eles não vão dizer: se você não comprar nossa roupa, vai pro inferno.

Já a indústria de IA diz: se você não nos deixar capturar cada vez mais terra, mais recursos e mais mão de obra pra produzir essas tecnologias, vamos ter uma destruição civilizacional. Isso é, ao mesmo tempo, retórica política usada como arma pra moldar o debate público e a cabeça de quem formula políticas, e também está enraizado num sistema de crenças — algumas pessoas dentro dessas empresas realmente acreditam que, se uma AGI fosse construída, e construída nas mãos erradas, isso levaria mesmo a esse tipo de destruição.

E é isso que move a sede cada vez maior da indústria por mais capital, mais recursos e mais terra.

Cris: Eu quero falar sobre AGI, mas antes: ano passado, a OpenAI estava sendo processada no Reino Unido por violação de direitos autorais, basicamente todos os livros do mundo digitalizados e usados pra treinar modelos. E um dos executivos disse ao júri: bem, se a gente não puder fazer isso, fecha as portas. Me chocou que muita gente reagiu com um “ah, tá, o que a gente pode fazer? Eles vão fechar as portas”.

Em parte porque a gente já está acostumado com essa narrativa. Outro dia, numa conferência, um ex-CEO dizia: a gente teve que usar embalagem de plástico porque é mais barata que papel, senão prejudicaria nosso resultado. E a plateia reagia: ah, então é só fechar as portas — a sociedade não pode arcar com isso.

Mas isso também, como você disse, se conecta à ideia de uma grande missão, uma missão de salvar o mundo, que a gente precisa cumprir antes que seja tarde, senão estamos condenados. OpenAI está literalmente no nome — só que em português não é tão direto: é “inteligência artificial aberta”.

Foi criada a partir de um sonho, um projeto que era pra ser uma coisa pro bem comum. Em 2019, num tempo bem distante, antes da pandemia, você cobriu a OpenAI, foi até o escritório deles, ficou lá dentro. O que você viu? E, mais importante, como essa missão mudou? O Elon Musk os processou outro dia justamente por mudarem a missão. Isso alguma vez foi verdade? Em algum momento eles pensaram mesmo “ah, a gente vai salvar o mundo”?

Como essa narrativa de ser aberta funciona com a OpenAI?

Karen Hao: Quando comecei a cobrir a OpenAI, levei a sério o que eles diziam — que tinham sido recrutados com a missão de beneficiar toda a humanidade. E aí, quando me infiltrei na empresa, fui ficando bem mais cética, porque via como eles operavam de um jeito completamente diferente, portas adentro, do que diziam em público.

Diziam que iam publicar todas as pesquisas e abrir o código de tudo, e na prática eram uma das organizações mais secretas que já cobri. Eram muitas discrepâncias, e, na época, presumi que tinha havido algum tipo de corrupção que os levou a abandonar a missão original. Depois de cobrir a empresa por mais alguns anos e de trabalhar neste livro, mudei de ideia até sobre a missão original.

Não acho mais que ela era um esforço sincero e generoso de beneficiar a humanidade. A missão foi criada pra dar à empresa — na época, uma organização sem fins lucrativos — uma margem de manobra extraordinária pra depois levantar muito capital, acumular muito talento e perseguir a força motriz de verdade por trás de tudo aquilo: se tornar a força dominante no desenvolvimento de IA.

E penso assim agora porque, quando você olha pras narrativas de cada nova empresa de IA no começo — a Anthropic, a xAI, a Safe Superintelligence do Ilya Sutskever, a Thinking Machines Lab da Mira Murati —, todas usam a mesma narrativa da OpenAI: nós somos os mocinhos, eles são os bandidos.

É por isso que precisamos criar uma nova empresa que avance a IA do nosso jeito, não do deles. E você começa a perceber, por esse padrão, que eles repetem a mesma coisa em parte porque acreditam nela até certo ponto, mas também porque ela funciona muito bem com a imprensa, com o público, com quem formula políticas.

No livro, eu reproduzo os e-mails internos que Elon Musk, Sam Altman e Greg Brockman trocavam nos primeiros dias da OpenAI. Eles tinham plena consciência de que estavam criando uma missão que soasse bem para o público. E o propósito de verdade, que também deixaram registrado nesses e-mails, era vencer o Google. Viam o Google como a força dominante em IA e queriam ser eles essa força.

Não gostavam de ver o Google na frente, então inventaram justificativas: o Google é uma empresa com fins lucrativos, então nós vamos ser sem fins lucrativos. Mas, no fundo, acho que era puro ego: tem que ser a gente, não eles, a gente quer ser quem lidera isso.

E aí passaram um tempão moldando essa missão pública, que acabou sendo super útil pra recrutar o primeiro grupo de pesquisadores e turbinar o avanço deles.

Cris: Então agora é um bom momento pra falar de AGI, a inteligência artificial geral. Muita gente pergunta: o que é AGI? O que “geral” quer dizer? E a impressão que peguei lendo seu livro é que, por design, isso nunca fica claro de verdade, porque é um alvo móvel. Essas empresas um dia vão dizer “chegamos, alcançamos a AGI”? Ou o plano é sempre “não, não, ainda não chegamos, me dá mais dinheiro, me dá mais poder”?

Qual é o papel da AGI na narrativa dessas empresas?

Karen Hao: Já que a gente está falando de ficção científica, eu costumo usar a analogia de que o mundo da IA é meio como Duna. Em Duna, o personagem principal, Paul Atreides, entende, ao chegar no planeta Arrakis, que o povo de lá foi semeado com um mito: o de que um dia viria um Messias pra libertá-los. Ele sabe que é um mito, mas decide entrar nele e agir como se fosse o Messias pra controlar melhor aquele povo.

E, vivendo, respirando e encarnando esse mito dia após dia, ele começa a perder a noção de que é um mito. Passa a se perguntar se o mito era mesmo verdadeiro ou se foi ele quem o tornou verdadeiro. É essa confusão entre mito e realidade — ele vive num espaço intermediário, sem ter mais certeza do que é verdade e do que é ficção.

E trago isso pra responder sobre a AGI porque a AGI é, ao mesmo tempo, um mito e algo que os líderes e os trabalhadores dessas empresas vivem, respiram e encarnam dia após dia, a ponto de perderem a noção do que é mito e do que é realidade. É a ideia de um sistema de IA teórico que um dia igualaria as capacidades humanas. Só que a gente nem tem consenso científico sobre o que é inteligência humana.

Por isso, de certa forma, por design, é um termo bem maleável, que deixa essas empresas fazerem o que quiserem. Elas definem e redefinem a AGI conforme a necessidade, movem a trave pra onde quiserem. E, ao mesmo tempo, isso é sustentado por uma crença genuína de certas pessoas lá dentro, por causa dessa confusão entre mito e realidade. Pelas minhas contas, a OpenAI já usou pelo menos quatro definições diferentes de AGI.

A primeira está no site deles: “sistemas altamente autônomos que superam humanos na maioria dos trabalhos economicamente valiosos”. É uma definição de automação do trabalho — eles dizem, de forma explícita, que estão atrás dos empregos mais bem pagos. A segunda apareceu no contrato com a Microsoft, por um tempo a maior investidora deles: ali, a AGI virou um sistema que geraria 100 bilhões de dólares em receita.

Ou seja, uma definição feita pra incentivar a Microsoft a investir. Já o Sam Altman disse ao Congresso que AGI é um sistema que cura o câncer e resolve a mudança climática — uma definição de benefício social, muito útil quando você quer que os reguladores não te regulem.

E, por fim, quando falam com o consumidor, dizem que vai ser o melhor assistente digital que você já teve — porque, claro, estão tentando vender o produto.

E aí você percebe duas coisas. Primeiro, que é um conjunto de definições completamente incoerente. Segundo, que eles trocam de definição conforme o público que querem convencer. Mas também tem gente nessas empresas que acredita de verdade que está construindo uma tecnologia capaz de dar conta das quatro coisas.

Então é uma realidade bem confusa e complicada: o que a AGI de fato é, e pra que ela serve, para essas empresas, para a agenda delas e também para as crenças delas.

Cris: Como ex-funcionário da Meta — entrei em 2013 —, a missão era unir o mundo e torná-lo mais aberto e conectado. É uma missão incrível. E tem uma coisa que eu sempre digo, porque muito amigo meu vem falar comigo, “ah, esse cara da OpenAI, ou a própria Meta, são maus”. Eu conheci muita gente na empresa. Nunca conheci uma pessoa mal-intencionada.

Todo mundo, independente da missão, era gente boa tentando entregar o melhor produto possível, pra dar poder a quem tem um pequeno negócio, por exemplo. Tenho amigos pessoais que construíram a empresa deles em cima da publicidade do Facebook e do Instagram. E esse é justamente o problema, porque ainda assim é uma corporação muito má, pelo que ela causa ao mundo pra bater as metas de negócio.

Ou seja, você não precisa de um vilão tipo Lex Luthor pra causar um estrago desse tamanho no mundo. E adorei a referência a Duna. Duna é engraçado: é o livro que eu mais reli na vida que não foi escrito pelo Tolkien. Li o primeiro Duna umas três vezes, e toda vez é como se fosse um livro diferente. Na primeira, eu era adolescente, e era só o Paul Atreides, o cara durão.

Na segunda, eu morava no Canadá e li com olhos de estrangeiro, pensando em colonização. E na terceira vez foi quando os filmes do Denis Villeneuve saíram, e aí era: ah, o Bene Gesserit criou esse mito, isso é meio pós-moderno. Narrativamente, fico me perguntando o que vai significar pra mim se eu ler uma quarta vez.

Karen Hao: Eu ia te perguntar isso. Quando você disse que cresceu numa época cheia de ficção científica falando das maravilhas da tecnologia, fiquei curiosa: que histórias você estava lendo? Porque muita coisa que saiu nos anos 70 e 80 dizia exatamente o oposto. E muita gente já apontou que os executivos de tecnologia de hoje, que vivem citando essas histórias, interpretam elas justamente ao contrário da intenção original.

Cris: Concordo plenamente. Mas, respondendo: foi basicamente Isaac Asimov e Arthur C. Clarke. E é por isso mesmo — os executivos de tecnologia, e o Elon Musk mais que todos, leem esses livros como receita, não como aviso. O livro de que eu mais me lembro, nem lembro o título, era um do Asimov em que ele descreve o elevador espacial que aparece na série da Apple TV, Fundação.

E o enredo é: eu sou esse engenheiro brilhante, quero construir essa coisa no Sri Lanka, mas o governo trava tudo com regulação — eu sou um gênio e a regulação é a vilã. Hoje eu leio e penso: ah, sei. Mas, quando garoto, era só “olha, um elevador espacial, que genial, a gente nem precisa de foguete”. E aí você começa a entender. E aí eu parei de ler esses caras.

E passei a ler gente com uma visão completamente diferente: o Ted Chiang, que entrevistei ano passado, a N.K. Jemisin, o Cory Doctorow, de quem sou muito fã. E talvez eles sejam mais explícitos, pra gente burra como eu entender: “não, bobo, a analogia é essa”. Mas Duna era incrível — vermes gigantes de areia, o tal garoto durão, e aquela coisa do “eu não aceito o meu destino”.

Tenho esse grande destino, mas não quero ele. Do resto da série eu já não gosto tanto. Mas o mais importante de tudo: Duna gerou o melhor GIF de filme de todos os tempos, o “Lisan al Gaib” do Javier Bardem — que eu devia ter colocado durante a sua explicação, aquele “uau, ele está cumprindo a profecia, agindo como o profeta”.

Mas, de novo, falando de vilões: você mencionou que essas empresas se colocam como o bem contra o mal, feito impérios antigos. Só que elas também jogam a carta da China, né? “Se a gente não fizer, a Rússia faz primeiro.” Só que a Rússia começou uma guerra e está ocupada demais. “Mas a China chega lá, e é por isso que a gente tem que ser fechado.” É por isso que Mythos e Fable e agora o GPT-5.6 foram proibidos pelo governo. Isso tem fundamento?

Quero saber se é possível a China competir — quero mesmo essa resposta — mas também porque, desde toda essa conversa do Fable-Mythos, países como Índia e Brasil vêm dizendo que precisam de um modelo soberano. Dá pra fazer, ou a OpenAI, a Anthropic e o Google estão tão à frente que já não dá?

Karen Hao: Sobre a China: você está certíssimo, o Vale do Silício usou por anos a carta do “e a China?” pra escapar de qualquer responsabilização de verdade. Fizeram muito isso na era das redes sociais.

A Meta fez muito isso, com o Mark Zuckerberg dizendo ao governo dos EUA: vocês não podem nos regular, senão a gente perde. Mas, se a gente ganhar, vai ter um efeito liberalizante no mundo e nas democracias em todo lugar. E, infelizmente, o que a gente viu foi que jogar essa carta repetidamente produziu exatamente o efeito contrário do que o Vale do Silício prometeu.

Uma das empresas de rede social dominantes dessa era é a ByteDance. Ou seja, mesmo sem regulação das redes sociais nos EUA, existe uma empresa chinesa de rede social bem dominante. E as redes sociais estadunidenses acabaram tendo um efeito antiliberal no mundo — é bastante consensual que enfraqueceram democracias em todo lugar. E aí, na era da IA, elas seguiram jogando a mesma carta.

Mas o que eu sempre aponto é que a gente definitivamente não devia acreditar nelas. Já existe evidência significativa de que tudo o que elas dizem está, de novo, se provando o oposto. Elas disseram: não regulem a gente como empresas de IA, regulem a China, via controles de exportação — um mecanismo do governo dos EUA com alcance extraterritorial.

Só que as empresas chinesas agora estão produzindo modelos de IA de código aberto extremamente eficientes, que viraram super populares no próprio Vale do Silício. Existe um monte de startup de lá que prefere usar modelo chinês a OpenAI, Anthropic ou Google.

Então, nesse sentido, é um conjunto de evidências bem decisivo, acho, pra mostrar que a gente devia simplesmente responsabilizar essas empresas, não importa o que digam sobre “ah, vamos perder pra China”. No fim das contas, é só retórica política. Não é um argumento real que elas consigam sustentar pra escapar da responsabilização.

Responsabilizá-las vai fortalecer a democracia pelo mundo, vai trazer mais direitos humanos, trabalhistas e de privacidade de dados pras pessoas — é sempre o contrário do que elas dizem que aconteceria. E, sobre a sua pergunta em torno da IA soberana: acho a ideia realmente importante, mas acho também que muitos países estão meio confusos sobre o que querem dizer com isso.

Muitos governos, hoje, pensam a IA soberana pela pergunta: a gente consegue construir o nosso próprio ChatGPT? O nosso próprio grande modelo de linguagem, o nosso sistema de IA generativa? Estão olhando só pro modelo que o Vale do Silício já definiu e tentando descobrir como recriar aquilo.

E o que eu digo pra quem formula políticas é: defina pra que a IA serve no seu país, no seu contexto. Quais são, no fim das contas, os objetivos do seu país? Os objetivos do seu povo? E também os nossos objetivos coletivos, entre países?

Porque a gente tem, por exemplo, os Objetivos de Desenvolvimento Sustentável da ONU. Já definimos coletivamente que há coisas que precisamos resolver juntos: superar a crise climática, reduzir a pobreza, melhorar a educação.

E, enquanto o Vale do Silício adora dizer que está fazendo tudo isso, na prática não está. Mas a gente poderia — poderia desenvolver, de forma colaborativa, sistemas de IA que realmente avançassem em cada um desses objetivos coletivos que já acordamos.

E cada país também devia fazer o exercício: quais objetivos você quer alcançar, e que tipos de sistema de IA você poderia desenhar pra chegar lá — sistemas que talvez não se pareçam em nada com um grande modelo de linguagem. Se os países fizessem isso, acho que descobririam que a maioria dos sistemas de que precisam exigiria muito menos recursos.

Ou seja, contextos como o Brasil, a Índia e outros, quando não precisam competir construindo essas infraestruturas de computação gigantescas e gastando centenas de bilhões de dólares, na verdade já têm, localmente, todos os recursos necessários pra desenvolver um sistema de IA soberano.

Cris: Quando ouvi falar do seu livro pela primeira vez, uma amiga me disse que você não poupa ninguém — fala mal do Sam Altman, mas também do Dario Amodei. E as pessoas costumam escolher um lado. Eu sou time Claude, odeio o ChatGPT, essas coisas. Então cheguei no livro pensando: ah, é mais um livro dizendo que a IA é terrível, que a gente não devia usar IA.

Mas, conforme fui lendo, e ouvindo outras entrevistas suas, me pareceu que o seu problema é justamente o que você acabou de descrever: a forma como essa tecnologia é feita. E, em especial, a palavra escala — a ideia de que a solução é a escala. O que você quer dizer com isso?

Karen Hao: Eu costumo usar a analogia de que “IA” é como a palavra “transporte”: na verdade se refere a uma coleção de tecnologias que vão da bicicleta ao foguete. São tipos bem, bem diferentes de tecnologia, que exigem insumos diferentes pra se desenvolver e depois têm impactos diferentes na sociedade.

E você está certo: sou especificamente crítica ao que chamo de “foguetes da IA”, os sistemas que os impérios da IA estão desenvolvendo, aqueles que exigem uma quantidade enorme de exploração de mão de obra e extração ambiental.

E sou bem otimista com o que chamo de “bicicletas da IA”: sistemas especializados, eficientes, com bom custo-benefício, governáveis pelas pessoas, cujo desenvolvimento pode ser participativo. Países como o Brasil, o Chile, a Índia, qualquer contexto, têm recursos pra desenvolver e se autodefinir, em vez de simplesmente herdar um sistema criado pelos dois únicos centros do mundo capazes de gastar uma quantidade extraordinária de capital: o Vale do Silício e o ecossistema tecnológico chinês.

E o motivo pelo qual eu acho tão corrosivo o que os impérios da IA estão desenvolvendo é exatamente o que você disse: a forma como eles fazem isso, por um mecanismo de força bruta pra avançar as capacidades da IA em escala. Eles vão simplesmente empurrando cada vez mais dados de treinamento nesses modelos, e isso exige corroer a privacidade das pessoas, tomar a propriedade intelectual delas e, ainda por cima, baixa a qualidade dos dados que entram nos modelos — o que leva aos danos de exploração de mão de obra, porque aí você tem que dar conta da moderação de conteúdo.

E aí você tem pessoas psicologicamente traumatizadas por serem expostas a todo aquele conteúdo horrível que se tenta “lavar” através desses modelos.

E aí vem o problema dessas infraestruturas de computação enormes, com impactos ambientais que aumentam a conta de luz das comunidades que as hospedam e agravam a crise de custo de vida. Elas precisam ser alimentadas por fontes fósseis, que jogam mais carbono na atmosfera e mais poluição no ar dessas comunidades.

Então todos os problemas que eu identifico, no que têm de corrosivo, derivam inteiramente da abordagem deles pro desenvolvimento de IA. Por que não descartar a abordagem, em vez de descartar a tecnologia? Redefinir e redesenhar de que tipos de sistema de IA a gente precisa de verdade, com uma cadeia de suprimentos fundamentalmente diferente. E isso não é exclusivo da IA.

A gente já viu muitas outras indústrias que começaram com uma cadeia de suprimentos bem ruim. A moda, por exemplo: muita degradação ambiental, muita exploração de mão de obra.

Com muita organização, protesto, ação de consumidores, regulação governamental e cooperação entre governos, a gente conseguiu criar mercados novos pra moda sustentável e ética, cadeias de suprimentos novas e inovações pra fazer roupa mais saudável pras pessoas e pro planeta.

E é basicamente isso que eu defendo: transformar a indústria de IA do mesmo jeito que transformamos a moda, e as cadeias de suprimento de alimentos. Assim a gente fica com os benefícios da tecnologia, ajuda ela a avançar os objetivos que importam pra gente, sem jogar uma fração enorme da população mundial numa condição atrasada e numa qualidade de vida pior.

Cris: O Brasil está agora, no Congresso, discutindo a escala de seis dias por semana. A regra atual é: você trabalha seis dias e descansa um. E muitas empresas, o comércio principalmente, dizem “vamos fechar as portas”, e os trabalhadores respondem “isso é problema seu, não meu”. É mais ou menos a mesma narrativa dessas empresas de IA: se eu não usar a sua água, a Idade das Trevas está chegando.

Falando em Idade das Trevas, e falando em bicicleta: a sua analogia me lembrou uma coisa. Eu gosto de jogo de zumbi, de mundo aberto, e em nenhum deles tem bicicleta. Num desses jogos, instalei um plugin que deixava andar de bicicleta — você acha uma e sai pedalando. E aí entendi por que não tem bicicleta: desbalanceia tudo. Parte da graça do jogo é você precisar achar um carro, e daí pneu, gasolina, comida pra carregar. De bicicleta, você vai a qualquer lugar.

E eu pensei: ah, é. Meio que estraguei o jogo pra mim, porque agora tenho uma bicicleta, é incrível. Enfim, em termos práticos: no fim do ano passado, uns meses atrás, a revista Wired publicou um artigo pedindo pra jornalistas de tecnologia contarem como usam IA no trabalho. E cada um usava de um jeito. Você usa IA no seu trabalho? Como?

Karen Hao: Eu não uso nenhum sistema de IA generativa no trabalho — nem ChatGPT, nem Gemini, nem Claude. Por três motivos. O primeiro é uma postura ética, depois de tanto investigar essas empresas. O segundo é privacidade de dados: eu investigo essas empresas.

Não quero que elas conheçam todo o meu raciocínio enquanto eu apuro o livro, literalmente investigando elas. E o terceiro é que, no meu caso específico, a força do meu trabalho está na capacidade de construir relações fortes com as fontes, pela empatia, e de contar histórias envolventes, pela narrativa. E os grandes modelos de linguagem simplesmente não são a ferramenta certa pra nenhuma das duas coisas.

Não vão melhorar a minha empatia nem a minha escrita. Então eu não perco nada com essa postura ética: simplesmente corto essas ferramentas e sigo fazendo o meu trabalho muito bem. Pra outros jornalistas pode ser diferente, e pra quem está em outras áreas o cálculo pode ser outro.

Mas eu incentivo as pessoas a pensarem primeiro: quais são as suas forças no trabalho? Quais são os seus objetivos? E aí ir de trás pra frente pra descobrir se a IA é a ferramenta certa, qual tipo de IA é a ferramenta certa, e qual fornecedor você quer de fato usar, apoiar, votar com os pés. Agora, eu uso, sim, IA preditiva.

Aquelas ferramentas de IA especializadas, as “bicicletas da IA”, digamos. No livro, tinha um detalhe que eu queria muito ilustrar: como a OpenAI deu um salto quando passou de organização sem fins lucrativos a um empreendimento bancado pela Microsoft. Percebi que as cadeiras do escritório ficaram bem mais caras. Então fotografei as cadeiras de um escritório e as do outro.

E joguei tudo na busca reversa de imagens do Google, que é um sistema de IA especializado — não é baseado em grandes modelos de linguagem, não é IA generativa. Assim descobri quanto essas cadeiras costumam custar. No primeiro escritório, cerca de 2 mil dólares por cadeira. No segundo, eram cadeiras de um designer brasileiro famoso, uns 10 mil dólares cada.

Coloquei esse detalhe no livro pra ilustrar o tipo de riqueza e de concentração de recursos de que a gente está falando. Esses são alguns dos jeitos como eu uso IA, ainda que de forma bem limitada, sempre pontual, quando acho que vai ajudar. E, claro, uso ferramentas de transcrição por IA — outra IA especializada — em todas as minhas entrevistas.

Cris: Essa foi uma das partes em que a minha cabeça explodiu, eu nunca tinha percebido: a OpenAI criou o Whisper. Deixa eu dizer de outro jeito, do meu ponto de vista. A OpenAI liberou abertamente essa ferramenta incrível de transcrição, o Whisper, em que eu jogo o áudio e ela me devolve as palavras que as pessoas disseram. E eu pensei: ah, que generoso da parte deles.

Mas o motivo real de terem criado a ferramenta foi pegar todos os vídeos do YouTube, transcrever e alimentar a máquina. E aí é: ah, claro. Enfim, falando de ferramentas e de otimismo — a gente está chegando ao fim da conversa. Eu tenho uma regra desde o episódio dois deste programa, há oito anos: de novo, como eu disse do seu livro, não pode ser só uma lista de reclamações e coisa ruim. E a gente tem se saído bem até aqui.

Você falou de caminhos e de bicicletas, mas eu quero ser mais específico. Se isso aqui fosse uma reunião de negócios: qual é o plano de ação, quais são os próximos passos? Só que uma das coisas que eu repito bastante, na vida e neste programa, é que problema sistêmico não se resolve com ação individual. Se eu tomar banhos mais curtos, isso nunca vai salvar o planeta do aquecimento global.

E muitos amigos meus simplesmente: não quero falar de IA, não quero usar IA. Voltando aos videogames: leram que tal jogo usa IA e pronto, não vão jogar. E a minha primeira pergunta pra você é: como a gente ocupa esses espaços da IA generativa — ChatGPT, Gemini e por aí vai? Porque o que a gente viu com as redes sociais foi: ah, o Facebook é do mal, vou sair do Facebook. Ah, vou sair do Twitter.

E, na esperança de quê, sei lá, talvez alguém diga: ah, sinto falta do Cris, cadê ele? Ah, está no Bluesky. Mas isso deixa o espaço aberto pra os radicais entrarem e postarem o que quiserem, sem ninguém contrapor ou tornar aquilo um lugar melhor. Então como a gente ocupa o espaço da IA — seja qual for a definição de “espaço da IA” que você preferir — com todos esses problemas que a gente vem discutindo?

Karen Hao: Acho que tem duas categorias de ação pra gente pensar. Uma é desmantelar o império. A outra é investir e construir novos tipos de sistema de IA, que se tornem alternativas às tecnologias do império. Quando eu digo desmantelar o império, não estou dizendo que quero que a OpenAI, o Google, a Anthropic, seja quem for, simplesmente deixem de existir.

É que eu não quero que elas sejam imperiais. Não quero que fiquem extraindo uma quantidade extraordinária de valor sem redistribuir nada em troca. Se elas voltassem a ser negócios que praticam uma troca justa de valor com o mundo, eu ficaria perfeitamente feliz com qualquer tecnologia que estivessem desenvolvendo.

E a forma de desmantelar o império, acho, se resume a muita organização de base, que vai pressionar os governos a regular e responsabilizar essa indústria. No último ano, a gente viu uma quantidade incrível dessa organização de base florescendo pelo mundo.

Recentemente, lancei com um grupo de jornalistas, pesquisadores de IA e acadêmicos críticos um projeto chamado AI Resist List, que busca documentar parte dessa organização de base pelo mundo. A gente encontrou cerca de 30 exemplos, de todas as regiões, de ações individuais, institucionais e movidas pela comunidade.

Tinha ação artística, ação política. E isso mostra bem o seu ponto: não dá pra contar só com a ação individual, mas o indivíduo pode, sim, ter impacto. Até uma ação pequena pode gerar um grande efeito cascata. Claro que se juntar com os vizinhos pra protestar contra o data center é ainda mais eficaz. Se juntar dentro da sua escola ou universidade pra protestar contra a parceria dela com uma empresa de IA também é mais eficaz.

Se juntar com os colegas de trabalho de um setor pra barrar a adoção de uma IA que corrói os direitos trabalhistas é mais um jeito eficaz. A gente tem um monte desses exemplos. Um dos meus favoritos é o de uma comunidade sobre a qual escrevi no livro, Quilicura, no Chile, na periferia de Santiago. É uma comunidade da classe trabalhadora, bem pobre, que vem sendo alvo incessante da expansão de data centers.

E por isso protestaram de forma bem aguerrida contra essa expansão, porque não acharam bom negócio hospedar essas instalações sem tirar nenhum benefício, enquanto elas consomem uma parte significativa dos recursos naturais da região.

E, logo depois que escrevi sobre eles, foram além na resistência e criaram uma plataforma chamada Quili.ai. É um site em que você entra e que parece um chatbot, parece o ChatGPT: tem uma interface de chat pra você digitar. Só que, quando você faz uma pergunta, em vez de um modelo de IA responder, a mensagem é encaminhada pra alguém que mora em Quilicura, no Chile. Aí, se você pede “quero a imagem de um cachorro”, aquilo vai pro artista local deles, o Benji. Ele pega um pedaço de papel, desenha um cachorro, tira uma foto e te manda de volta.

Eles fizeram isso essencialmente como um projeto de arte performática, pra fazer as pessoas pensarem duas vezes antes de usar IA generativa pra bobagem. A mensagem era: ei, quando você fica brincando com essas ferramentas em pedido besta, isso afeta comunidades como a nossa, drena os recursos de que a gente precisa pra viver bem.

E também queriam levar as pessoas a pensar: por que não perguntar pra alguém da sua própria comunidade aquela receita que você procurava, ou pedir aquela imagem? Porque aí você reconstrói as conexões que estão tão em falta na sociedade — a falta delas é o que nos deixa mais vulneráveis a esse tipo de colonização do império.

Eles deixaram o projeto aberto por 24 horas, e qualquer pessoa no mundo podia mandar um pedido. Receberam uma quantidade extraordinária deles. Viralizou de vez. E essa cidadezinha conseguiu uma virada enorme de narrativa sobre a suposta inevitabilidade e necessidade dessa tecnologia, sobre tudo o que o Vale do Silício diz — que, se você não usar, vai ficar pra trás de quem usa.

E esse é só um exemplo, entre muitos, de como pessoas comuns, não importa a sua posição na sociedade, podem ter impacto real no debate, na consciência pública e até na regulação. A gente está vendo isso agora com os protestos contra data centers. Nos EUA, em 2025, cerca de 150 bilhões de dólares em projetos de data center foram travados.

Isso virou uma das questões políticas mais quentes nos EUA para as próximas eleições de meio de mandato. Tem gente eleita sendo literalmente tirada do cargo por ter aprovado data centers, contrariando a vontade do povo. E isso já está tendo efeito real sobre as empresas e sobre a trajetória do desenvolvimento de IA.

A OpenAI teve que encerrar recentemente a sua ferramenta de geração de vídeo, o Sora. Quando lançaram, apresentaram como o segundo produto mais importante desde o ChatGPT. O que aconteceu entre o lançamento e o fim? Uma reportagem do Wall Street Journal apontou três motivos, todos moldados por ação de base. Um: um gargalo enorme de capacidade de computação.

Muitos dos data centers travados ou parados eram da OpenAI. Dois: um cenário financeiro bem mais incerto. A OpenAI está se preparando pro IPO, o que significa ficar mais exposta a Wall Street — e Wall Street está cada vez mais nervoso com a capacidade dessas empresas de cumprir o que prometem.

E aí a OpenAI teve que reforçar alguns projetos paralelos pra fazer o balanço parecer um pouco melhor aos olhos de Wall Street. E, terceiro: os consumidores simplesmente não estavam usando o produto — o que também é ação coletiva de consumidores. Então, por todo esse tipo de resistência, de várias formas, de baixo pra cima, as pessoas estão de fato tendo impacto real na indústria e responsabilizando ela.

Essa é a primeira categoria de ação. A segunda é: ok, que tecnologias de IA a gente usaria como alternativa? E aí a gente precisa investir mais nelas. Muitas vezes, quando converso sobre o livro, a pessoa diz: ok, me convenci de que não quero usar ChatGPT, não quero usar Claude — mas então uso o quê no lugar?

E o problema é que eu não tenho muitas respostas pra essa lista de alternativas. Tem umas poucas aqui e ali, uma plataforma, uma empresa.

Cris: Dá pra rodar o modelo no seu próprio computador, como o Cory Doctorow faz, mas aí é limitado e…

Karen Hao: Exatamente, exige mais habilidade técnica. Mas, pra quem consegue instalar modelos de código aberto no próprio computador, eu incentivo 100%. Só que a gente também precisa de mais gente desenvolvendo interfaces bem fáceis pra esses modelos de código aberto, pra que qualquer pessoa consiga usar.

A gente também precisa de mais gente desenvolvendo “bicicletas da IA”, de investidores e governos investindo mais nesse tipo de solução, e de talento — pesquisadores de IA, desenvolvedores e outras pessoas dispostas a sacrificar um pouco e abrir mão dos pacotes de remuneração enormes.

Cris: Eu estava começando a achar que agora as empresas precisam ter menos lucro — e isso nunca vai acontecer.

Karen Hao: Não, não é a empresa ter menos lucro. É o trabalhador topar abrir mão do pacote de milhões de dólares pra levar o talento dele pra outro lugar. Mais fácil, bem mais fácil. Eu converso com muito pesquisador de IA cansado da abordagem da indústria, porque ela é completamente sem criatividade intelectual.

Eu conversei com pesquisadores que não passaram seis anos num doutorado em IA só pra ficar empurrando mais dados na máquina — pra eles, é o trabalho mais chato do mundo. E depois automatizar a programação, que era justamente o que eles gostavam de fazer. Converso com tanta gente que já não acha graça nenhuma nisso. Estão meio presos por “algemas de ouro”.

E estão tentando descobrir, dentro de si, que carreira alternativa poderiam ter. Eu costumo incentivar esses pesquisadores a gastar o talento deles construindo um tipo diferente de empresa, que trabalhe com “bicicletas da IA”. E a gente já começa a ver cada vez mais desse talento indo por aí.

E a gente precisa que todas as facetas da sociedade invistam num ecossistema muito mais robusto e rico de tecnologias de IA, capaz de substituir as que hoje dominam. Eu ainda tenho as cicatrizes das minhas próprias “algemas de ouro”, mas concordo plenamente.

Cris: E as redes sociais são o exemplo — veja o que aconteceu com elas. Tem aquela frase famosa: as mentes mais brilhantes da minha geração passam o tempo fazendo as pessoas clicarem em anúncios. E ainda dizem: ah, isso pode ser o futuro. Pois é.

Você contou a história do Quili.ai e isso me lembrou um dos primeiros criadores de conteúdo do Brasil, o Cid Não Salvo. Uns 10, 15 anos atrás, ele tuitou o seguinte: “Gente, eu disse pro meu pai que, sempre que ele precisar pesquisar alguma coisa na internet, é pra ir no Twitter.com e digitar a pergunta na caixa”. E olha que ele tinha milhões de seguidores.

E, por uns bons dias, quase um mês, você entrava no Twitter do pai dele e via perguntas tipo “onde eu compro pizza?”. Era engraçadíssimo. No fim, ele contou pro pai — ou talvez não. Mas eu adoro essa ideia. Antes de a gente terminar: você já deve ter respondido isso mil vezes, mas vai continuar cobrindo IA? O que está na sua cabeça, o que vem por aí? Turnê mundial? O que vem pela frente?

Karen Hao: Com certeza estou pensando em como continuar responsabilizando essas empresas. Estou envolvida em várias colaborações, com gente incrível, em diferentes projetos ligados a isso. O AI Resist List foi um deles. Também co-criei um programa chamado AI Spotlight Series, com o Pulitzer Center, uma organização jornalística sem fins lucrativos que financia jornalismo investigativo pelo mundo.

É um programa que treina jornalistas do mundo inteiro a cobrir IA por uma lente de responsabilização. Até agora, já treinamos mais de 3 mil. E eu sigo pensando em como construir mais capacidade dentro do jornalismo, da sociedade civil, de outros contextos, pra mobilizar ainda mais essa organização de base — pra conter de verdade os impérios da IA e ajudar a desmantelá-los.

Cris: Adorei o seu exemplo da moda. É possível, já foi feito. Ou até a indústria automotiva. Ou o grande exemplo que a gente não mencionou, e que o pessoal da OpenAI vive citando: o Projeto Manhattan, a energia nuclear.

O mundo não acabou. Quando eu era criança lendo Asimov, achava que ia tudo acabar num fogo nuclear. Enfim — alguma última palavra, alguma mensagem, algum palpite pros jogos do Brasil na Copa, alguma coisa que você queira dizer antes da gente encerrar?

Karen Hao: No fim das contas, o que eu espero que fique desta conversa e do livro é o seguinte: neste momento, o Vale do Silício está concebendo a IA como um projeto político. E a característica central desse projeto é tirar a autonomia de todo mundo — a autonomia de moldar de verdade o próprio futuro e o nosso futuro coletivo. Mas, no instante em que você reconhece que já tem uma autonomia significativa pra resistir, o império começa a desmoronar.

Então espero que as pessoas encontrem a própria voz, a afirmem, conquistem o seu lugar à mesa e se conectem com os vizinhos, com a comunidade, com os colegas de trabalho, pra criar mais movimentos juntos.

Cris: Que ótimo. Karen Hao, o seu livro é O Império da IA: Por dentro da corrida irresponsável pela dominação total. Obrigado por vir ao Brasil conversar com a gente. Foi um prazer.

Karen Hao: Muito obrigada.

Uma das primeiras perguntas que anotei quando comecei a pensar nessa conversa foi justamente a do final, a da ocupação de espaços. Porque, como eu disse, quando as redes sociais chegaram para ficar, muita gente falou “ah, não vou usar, é do mal” — e aí as pessoas ruins, vamos chamar assim, acabam ocupando esse espaço e falando o que bem entendem. A gente precisa aprender essa lição agora, no mundo da IA.

Fora que vejo muita gente falando de IA sem nunca ter usado — ou que usou, sei lá, dois anos atrás, acha que continua tudo igual e já diz que não quer chegar perto.

E por quê? Porque essa abordagem de ocupar espaços é o que eu e a Ana Freitas buscamos fazer no IA em Curso, nossa comunidade de letramento contínuo em IA. Foi, aliás, uma conversa que tive com a Karen antes da entrevista: ao mesmo tempo que a gente fala do impacto da IA no mundo, também precisa focar no que é prático, no que dá para fazer hoje com IA, sem vender sonho nem desastre. A analogia que usei foi a de que é que nem quando a gente fazia curso de Word e Excel — é o que eu faço agora que vai facilitar minha vida, me fazer ganhar tempo, botar a IA para me ajudar. Quem viu minha conversa com a Ana aqui no Boa Noite Internet, no fim de 2025, sabe do que estou falando. Se não viu, volta lá e confere.

Desde que a gente lançou este episódio, o IA em Curso já passou de 400 pessoas. Tem muita gente colocando projetos pessoais incríveis na rua, tirando do papel aquela ideia que rondava a cabeça há um tempão. E a comunidade tem mentoria ao vivo, aula gravada, newsletter, banco de agentes, grupo de Telegram… que mais? O que não falta é jeito de passar para você o conhecimento sobre IA de que você precisa hoje, agora. Quero te dar a bússola para navegar nesse universo.

Se esse é o tipo de abordagem que você quer ter com a IA, passa lá no iaemcurso.com.br e usa o cupom BNI2026 para ganhar 20% de desconto no plano anual. Mas corre, porque daqui a duas semanas vou apagar esse cupom — não é todo dia que a gente dá um desconto desses.

É isso. Boa Noite Internet, temporada 2026 começando — como todo ano, com mudança, ideia, projeto. Ou, como diz minha citação preferida de todos os tempos: “vivemos uma fase de transição, como sempre”. Espero ver você por aqui e lá no IA em Curso.

Obrigado pelo seu tempo e pela sua atenção. Até o próximo episódio.

Errare humanum est, perseverare diabolicum1.
— Autoria perdida no tempo.

Acabou, é tetra. Chegamos ao fim. Daniel Kahneman, Olivier Sibony e Cass R. Sunstein fecham Ruído com um capítulo-revisão, o livro inteiro em miniatura, escrito por eles mesmos, e ainda emendam um epílogo de uma página. Tudo em cima da ideia-chave, ou como costumo chamar no Apresentas…

Read more

A majestosa igualdade das leis, que proíbe tanto ao rico quanto ao pobre dormir sob as pontes, mendigar nas ruas e roubar pão.
— Anatole France

Quando alguma coisa dá errado, nosso instinto é sempre o de pedir uma regra nova ou mais dura. Teje proibido o crime! Confiamos que basta uma boa regra para o problema se resolver. Só que toda instituição regula o comportamento das pessoas de dois jeitos — e a regra é só um deles, mas há também os padrões.

Uma empresa pode mandar o funcionário estar na mesa das 8:00 às 17:00, ou pedir que ele cumpra “parte razoável da jornada”. A lei pode fixar o limite de velocidade em uma via em 50 km/h, ou mandar dirigir “com prudência”. O médico pode receitar um comprimido de manhã e outro à noite, ou um “quando houver necessidade”. Regras e padrões. O último capítulo do livro (antes da revisão e conclusão) explora a diferença entre estas duas ferramentas, já que escolher entre elas é, no fundo, decidir com quanto ruído se aceita conviver.

Read more

No reino dos fins, tudo tem ou um preço ou uma dignidade. Quando uma coisa tem um preço, pode-se pôr em vez dela qualquer outra como equivalente; mas quando uma coisa está acima de todo preço, e não permite equivalente, então ela tem dignidade.
— Immanuel Kant

Semana final de Ruído, a décima sétima temporada do Clube de Cultura do Boa Noite Internet. Onde estamos? Ah sim, você quer reduzir o ruído, é isso? Justiça, um sistema sem falhas, praticamente matemático, que não favorece (nem desfavorece) ninguém. Cego, como a famosa estátua. Então não deve se importar com as seguintes situações, totalmente hipotéticas, assim espero.

O banco negou seu financiamento sem que ninguém abrisse a sua ficha, porque uma regra proíbe emprestar para quem tem um score do Serasa
como o seu. O empregador saiu impressionado com o seu currículo, mas a empresa não contrata quem tem antecedentes criminais, e aquela condenação por posse de maconha quinze anos atrás apareceu na sua ficha. Um algoritmo calculou que pessoas com o seu perfil têm risco de fuga acima do limite, e a fiança foi negada sem que nenhum humano olhasse o processo.

Regras são regras, desculpe.

Se você for como eu, vai querer sempre alguém de carne e osso examinando as nossas circunstâncias — eu quero falar com o gerente! É assim que muita gente topa “pagar em ruído” por esse direito. Esta é a objeção que faltava sobre sistemas de redução de ruído, que começamos no capítulo passado.

Ser julgado por regra fere a dignidade humana.

Daniel Kahneman, Olivier Sibony e Cass R. Sunstein encaram essa e mais quatro objeções — sistemas sem ruído congelam valores, regras claras convidam à trapaça, um pouco de incerteza dissuade melhor, decidir por fórmula desmoraliza quem decide — e… dão de ombros para todas.

A defesa do julgamento caso a caso tem raízes fundas na política, no direito, na teologia e na literatura. Os autores lembram que O mercador de Veneza — peça de William Shakespeare que, por acaso, está sendo encenada no teatro aqui perto de casa — pode ser lido como um protesto contra as regras livres de ruído, um apelo à mercê (a clemência, a piedade) no julgamento que desagua no discurso de Pórcia.

É qualidade da mercê não ser laboriosa;
Como chuva mansa ela desce do céu
Sobre a terra abaixo. É duplamente abençoada;
Abençoa quem dá e abençoa quem recebe

Read more

Temos de abandonar a crença arrogante de que o mundo é apenas um enigma a ser solucionado, uma máquina com instruções de uso à espera de ser descoberta, um volume de informações a ser baixado em um computador na esperança de que, mais cedo ou mais tarde, revele uma solução universal.
— Václav Havel

Depois de 25 capítulos apontando ruído em tudo que é julgamento e receitando higiene da decisão, chegamos à parte final onde Daniel Kahneman, Olivier Sibony e Cass R. Sunstein fazem a autocrítica do ruído e listam as sete objeções mais sérias ao próprio projeto. As duas primeiras ficam neste capítulo: reduzir o ruído custa caro demais, diz uma. A cura pode sair pior que a doença, diz a outra.

A Parte VI abre relembrando o começo do livro e afirmando que o juiz Marvin Frankel tinha razão em 1973, quando expôs a loteria das sentenças criminais. Mas as diretrizes que nasceram da cruzada dele apanharam de juristas que as consideram rígidas, desumanizadoras e injustas — e quem já fez uma solicitação razoável a uma empresa ou repartição e ouviu que “gostaríamos muito de ajudá-lo, mas não podemos fazer nada. Temos regras claras” vai entender. A tal regra pode parecer tola, às vezes cruel — mas foi provavelmente adotada para reduzir o ruído.

A versão mais articulada do ataque vem de Kate Stith, professora de direito em Yale, e José Cabranes, juiz federal dos EUA, no livro Fear of Judging (tradução livre, “Medo de julgar”). Para os dois, as diretrizes de sentenças são inspiradas “por um medo de exercer o poder discricionário — pelo medo de julgar — e por uma fé tecnocrática em especialistas e planejamento central”, e “nenhuma solução mecânica pode satisfazer os requisitos da justiça”.

Read more

Sempre que concordam comigo, sinto que devo estar errado.
— Oscar Wilde

OK, tudo muito legal, tudo muito bonito, ruído isso, viés aquilo, mas… e na prática? Como tomar decisões melhores? Onde está o famigerado caso de uso?

Para fechar a parte cinco, vamos ver o “protocolo de avaliações mediadoras” em prática em uma história fictícia de uma empresa chamada Mapco analisando se deve comprar outra, a Roadco. Daniel Kahneman e Olivier Sibony descreveram este protocolo pela primeira vez em 2019, num artigo da MIT Sloan Management Review assinado também por Dan Lovallo, professor de estratégia da Universidade de Sydney. O método se apoia numa analogia herdada da entrevista estruturada que vimos no capítulo passado e diz que “opções são como candidatos”. A história é estilizada e simplificada, os autores admitem, uma colagem de vários casos reais condensados numa empresa só. Joan Morrison, a CEO da Mapco, abre a reunião do comitê estratégico pegando os diretores de surpresa.

“Quero sugerir um novo procedimento para a reunião em que decidiremos sobre a compra da Roadco. O nome é pouco atraente, protocolo de avaliações mediadoras, mas a ideia, na verdade, é bastante simples. Ela se inspira na semelhança entre avaliações de opções estratégicas e avaliações de candidatos a emprego.”

Read more

A democracia é a pior forma de governo, exceto por todas as outras.
— Winston Churchill

Se no capítulo anterior eu disse que tem que acabar a avaliação de performance corporativa, nesse vamos falar de entrevista de emprego e… é complicado. Porque a avaliação de desempenho serve apenas aos interesses da empresa. Saber quem está entregando acima ou abaixo do esperado (itálico para demarcar traumas) não ajuda em nada quem trabalha, que só fica com a saúde pra lá de mental. Mas entrevistas de emprego (e processos de seleção em geral) buscam acabar justamente com vieses inconscientes (ou nem tanto) de quem contrata, na tentativa de melhorar um mercado de trabalho que só tem homens brancos ocupando os cargos mais bem pagos.

Só que processo seletivo carrega muito viés, como vamos ver hoje. Por exemplo, a aparência de uma pessoa é um dos fatores mais importantes na contratação, independentemente do tipo de trabalho. Pior ainda, um aperto de mão firme pode aumentar suas chances de contratação. E é justamente por conta de coisas assim que digo há tempos que processos de seleção — por mais cheios de boas intenções que sejam — no fim só servem para contratar pessoas boas em fazer entrevistas de emprego, mesmo com mais camadas sendo acrescentadas para buscar um processo “cientificamente perfeito”.

Não sou só eu quem está falando isso. Contratar é o problema mais estudado da psicologia organizacional, e já em 1917 a primeira edição do Journal of Applied Psychology chamava a seleção de pessoal de “problema supremo”.

Como observa um psicólogo organizacional: “É raro, até mesmo impensável, contratar alguém sem algum tipo de entrevista”.

Read more

Seja o número 1 da sua divisão no trimestre e ganhe uma festa do waffle.
— Documentos internos das Indústrias Lumon

Eu sou contra avaliações de desempenho nas empresas. Pronto, falei. Odeio tanto, mas tanto, avaliação de desempenho que resolvi liberar esse resumo comentado do livro Ruído para todo mundo que assina a newsletter do Boa Noite Internet, o famoso tirar o paywall.

O processo é cercado de boas intenções — uma busca por “justiça” nas promoções, o fim das panelinhas e do puxa-saquismo —, mas, no fim, só troca um sistema falho por outro… por outro, por outro. Uma coisa é medir quantos parafusos um operário fabrica por dia em um torno (ou seja lá qual máquina é usada para fazer um parafuso). Outra é tentar pôr números (mesmo disfarçados com nomes como “perf”) em trabalho de escritório, que depende de criatividade e de interação humana. Também não ajuda o fato de que boa parte dos nossos empregos provavelmente é inútil.

Oito anos atrás, larguei o meu “emprego dos sonhos” por uma porção de motivos, mas um dos principais era que eu ficava literalmente doente a cada seis meses, na época da avaliação. O sistema me parecia falho desde a largada. Por exemplo, ele só media o que tinha sido feito naquela janela de seis meses, então ia bem quem fosse malandro o bastante para começar e terminar as coisas dentro dela. Até aí tudo bem, mas o sistema usava o “ranking forçado”, que vai ser explicado neste capítulo — que também parte de um bom propósito. Sem ele, a tendência do gerente é dizer que todo mundo foi bom o suficiente. A curva forçada existe justamente para barrar isso e fazer com que pelo menos alguém seja o que “mandou mal”. Na prática, se eu arrancasse o meu próprio couro no semestre, mas todos os meus colegas fizessem o mesmo (porque, afinal, somos todos pessoas de alta performance), a resposta vinha mais ou menos assim: “Cris, sabe o que é? Você mandou bem, mas o Joãozinho mandou melhor, então você desce um degrau na classificação.” Com consequência financeira (bônus menor) e até uma possível demissão, em caso de reincidência.

Para piorar, a empresa era global, com sede nos Estados Unidos. Os gerentes gringos, portanto, defendiam as suas equipes no próprio idioma, enquanto o resto do mundo se virava numa videoconferência em inglês. Mas, tá, eu tenho minha culpa no cartório. Eu simplesmente não soube lidar com tudo aquilo — até porque, quando saí, o meu gerente já era estadunidense, então nem posso usar essa justificativa do idioma. Sei que outros colegas sobreviveram mais anos do que eu. (Embora o meu analista, na época, tenha me lembrado que eu não tinha como saber o que se passava na cabeça de cada um, não dava para sair assumindo que estivessem todos bem.) E parte da tal “expectativa” era que eu tivesse fibra mental para aguentar a pressão. Eu não tanquei e saí antes que a coisa piorasse.

Aliás, já que estou falando em “expectativa” e no meu analista, essa história eu já contei no podcast, anos atrás. Na tal avaliação semestral, a nota vinha com a palavra “expectativa” em todos os níveis: “atingiu algumas expectativas” não dava bônus nenhum (e, repetida, levava à demissão, como falei ali em cima), “atendeu todas as expectativas” valia o bônus cheio, e “redefiniu as expectativas” rendia o triplo, com direito a chuva de ações da empresa.

Nessa hora da conversa, o analista virou e perguntou: peraí, todas as notas têm a palavra “expectativa”? Quando eu confirmei que sim, ele esfregou as mãozinhas e disse: hum, então eu vou ganhar muitos pacientes colegas seus.

Uma avaliação inteira baseada na palavra “expectativa” é uma máquina de produzir frustração, porque coloca no outro (alô, Lacan!) o julgamento de quem eu sou como pessoa. Segundo Daniel Kahneman, Olivier Sibony e Cass R. Sunstein, a palavra, em vez de ajudar, produz uma montanha de ruído — que já foi medido.

Quando uma empresa junta a avaliação de várias pessoas sobre o mesmo funcionário — o famigerado feedback 360 graus —, dá para separar o quanto da nota reflete o trabalho real e o quanto é só ruído. Os estudos que fazem essa conta, reunidos pelos três, mostram que entre 70% e 80% do que vira a nota de alguém não tem nada a ver com o trabalho daquela pessoa. Sobra de 20% a 30% para o desempenho de verdade.

a relação entre desempenho profissional e análises de desempenho profissional tende a ser fraca ou, na melhor das hipóteses, incerta.

Ou seja, a nota que decide o bônus — ou demissão — diz muito mais sobre quem avaliou do que sobre quem foi avaliado.

De onde vem tanto ruído? Dos mesmos lugares que o livro já tinha mapeado nos capítulos anteriores. A mesma pessoa recebe notas diferentes porque um avaliador é mais gentil e o outro mais severo, ou porque um deles simplesmente não vai com a sua cara, ou porque, na manhã da avaliação, um dos avaliadores deu um totó que amassou o carro. O humor de quem segura a caneta vai afetar muito a nota.

E nem todo desvio é sem querer. O gerente pode inflar a nota para evitar uma conversa difícil, para emplacar a promoção de um protegido ou até para se livrar de um subordinado ruim, que só consegue ser transferido de área se
levar uma boa avaliação na bagagem. E, cá entre nós, o papel do gerente não é fazer todo mundo performar bem? Se meu gerenciado vai mal, será que isso vai impactar a minha avaliação? Opa, pensando bem, até que ele não foi tão mal assim não! Vamos achar o lado positivo para eu não ter que me explicar para o meu chefe. Ai como eu sou um chefe cuidadoso.

Somando tudo, isso produz cenas como a de uma grande indústria que descobriu ter classificado 98% dos seus gerentes como “correspondendo plenamente às expectativas”. Quando quase todo mundo recebe o mesmo carimbo, a nota deixa de medir qualquer coisa.

Por, meus amigos Kahneman, Sibony e Sunstein, são pessoas avaliando subjetivamente outras pessoas!!!

Para curar esse efeito, muita empresa adota a minha amada (itálicos sarcásticos) curva forçada. Jack Welch a transformou em bandeira quando comandava a General Electric, proibindo os avaliadores de dar nota alta para todo mundo e obrigando cada um a distribuir as notas numa curva predefinida. Forçar a curva até reduz um tipo de ruído de forma automática, porque obriga o avaliador gentil e o severo a fechar na mesma média. Mas cria problemas maiores do que resolve.

O primeiro é confundir desempenho absoluto com relativo. É impossível que 98% dos gerentes estejam entre os 20% melhores, e a curva corrige isso. Só que Kahneman, Sibony e Sunstein explicam exatamente o que contei na abertura: não é nada impossível que todos os avaliados, de fato, atendam às expectativas se a expectativa foi definida em termos absolutos. “Você bateu a meta em 100%, mas o João bateu em 120%, então você está abaixo das expectativas”. É como eu sempre digo, o capitalismo não está nem aí pra sua saúde mental.

Quem zombaria da leniência dos procedimentos de gestão de desempenho da Nasa se escutasse que todos os astronautas em uma missão espacial bem-sucedida atenderam plenamente às expectativas?

Essa “piada” da Nasa também mostra que a curva forçada também tem problemas puramente matemáticos. Mesmo que o desempenho da empresa inteira se espalhe numa curva bonita, uma equipe pequena não tem nenhuma obrigação de repetir esse desenho. Se você sorteia dez pessoas de uma população enorme, a chance de exatamente duas caírem entre os 20% melhores é de só 30%. Na prática, o time quase nunca sai com o desenho que a curva exige. E os times não são sorteados, é uma boa prática corporativa juntar as melhores pessoas possíveis na mesma equipe. Quando o avaliador tem na frente cinco pessoas igualmente competentes e é obrigado a ranquear, acaba inventando uma diferença que não existe.

Ouvi, décadas atrás, uma história sobre a Microsoft que mostra bem aonde isso leva (espero que já tenham mudado). Lá, a curva forçada era aplicada dentro de cada equipe direta, nunca mais de dez pessoas. O resultado é que não demorou muito para os funcionários perceberem que a melhor estratégia corporativa era estar sempre, como vou dizer isso…, cercado de incompetentes.

Lembrei agora de um e-mail que nosso VP Global costumava mandar antes do começo de cada ciclo de avaliação lembrando que tirar “atendeu a todas as expectativas” não era uma coisa ruim, porque “nossas expectativas são altas”. Que é um jeito fofo de dizer: “Você se matou de trabalhar? Pois era isso mesmo que esperávamos.”

a falha fatal do ranking forçado não está em “ranquear”, mas em “forçar”.

Ordenar pessoas, quando a ordem importa de verdade, até ajuda a cortar ruído. O estrago vem de espremer uma régua numa realidade que não tem aquele formato.

A saída que o livro propõe passa por acertar a régua, sem precisar abandonar o ranking. Em vez de pedir uma nota solta de 1 a 5 (com a palavra “expectativas” dentro ou não), dá para comparar cada pessoa a casos concretos de referência — “Fulano se parece mais com o exemplo A ou com o exemplo B?” —, trocando um chute absoluto por uma comparação, e já aprendemos que comparação gera menos ruído. A técnica existe há décadas e funciona. Quase ninguém usa, porque dá trabalho, custa caro e, a parte que o livro diz com todas as letras, porque tira do gerente o poder de puxar a nota para onde lhe convém.

Em vez de afinar a régua, muita empresa de tecnologia preferiu jogar tudo fora e largar a avaliação anual com nota. A Deloitte foi uma delas. Depois de calcular que gastava 2 milhões de horas por ano avaliando 65 mil pessoas, e de concluir que a nota era mais um retrato do avaliador do que do avaliado, ela trocou a velha avaliação anual por conversas curtas e frequentes ao longo do ano.

Se funcionou melhor, ainda é cedo para dizer. Insatisfação com o modelo antigo, de todo modo, não falta. Num estudo da mesma Deloitte, cerca de 90% dos gerentes, funcionários e gente de RH acham que o processo tradicional de avaliação não entrega o que promete. Se você mede desempenho, dizem os três autores, as suas avaliações “são provavelmente dominadas pelo ruído de sistema e, por esse motivo, podem ser em essência inúteis e muito possivelmente contraproducentes”. Eles chegam a admitir, quase de passagem, que talvez nem faça sentido medir desempenho individual num trabalho onde o resultado depende de como as pessoas se misturam, e que “motivar” gente pelo medo e pela ganância de uma nota pode simplesmente não funcionar.

Tem que acabar a avaliação de desempenho.

Agora é com você

Sabe o que mais tenta ser um processo “justo” e “sem viés” e que tem que acabar? Processo de seleção de emprego, o tema do próximo capítulo. Lá vou eu passar raiva de novo.

Enquanto isso, me conta nos comentários (também abertos para todo mundo) suas experiências com processos de avaliação corporativos. Habla mesmo.

O Clube de Cultura do Boa Noite Internet normalmente é um lugar restrito a assinantes onde viajamos juntos por um livro, série, filme, etc. na forma de resumos comentados como esse, onde junto minha visão ao que é discutido em cada obra. Esta já é a décima sétima edição e se você apoiar o Boa Noite Internet vai ter acesso não só às futuras edições, mas tudo que já passou por aqui.

Nos vemos lá,
crisdias

É muito mais importante saber que pessoa tem a doença do que que doença a pessoa tem.
— Hipócrates

Um paciente que o livro chama de “Paul” — amigo dos autores — passou três meses tratando sua pressão arterial que não queria baixar. O primeiro médico tentou um diurético, depois somou um bloqueador de cálcio, sem resultado. A pressão seguia alta, Paul ficou…

Read more

Quando os fatos mudam, eu mudo de ideia. E você, o que faz?
— John Maynard Keynes

Prever o futuro tem fama de ser um dom de nascença, o tipo de coisa que ou se tem ou não tem. A boa notícia é que dá para ficar melhor nisso sem nascer gênio nem comprar bola de cristal. Bastam duas receitas.

Quase toda decisão importante é um palpite sobre o futuro. Quanto a empresa vai lucrar no próximo ano, como o novo funcionário vai se sair, quem ganha a eleição, quanto custa uma obra que ainda nem saiu do papel. E todo palpite desses erra de dois jeitos, os mesmos que Daniel Kahneman, Olivier Sibony e Cass R. Sunstein vêm perseguindo desde o começo do livro: viés e ruído. O viés tem cara conhecida. São como as agências de governo que, ano após ano, erram sempre para o mesmo lado, projetando crescimento alto e déficit baixo demais — ou seja, que vão fazer bem seu trabalho. O ruído é mais silencioso, são os previsores discordando uns dos outros, e de si mesmos de uma semana para a outra.

Por uma década, três economistas acompanharam milhares de diretores financeiros de empresas dos EUA e, a cada trimestre, pediam que previssem o retorno da bolsa no ano seguinte. Não o número exato, que ninguém adivinha, mas uma faixa, com um piso e um teto, larga o bastante para o resultado real cair dentro dela em oito de cada dez anos. Era para ser fácil, bastava abrir bem o compasso e chutar uma faixa bem folgada. Mesmo assim, o retorno real caiu dentro das faixas que eles deram em só 36% das vezes. Acertar o número exato era impossível, e ninguém esperava isso. O erro foi dar faixas estreitas demais, porque achavam que sabiam do futuro muito mais do que de fato sabiam.

Read more

O ruído pode ser um problema invisível até para pessoas cujo trabalho é enxergar o invisível.

Em maio de 2004, o FBI prendeu um advogado do Oregon chamado Brandon Mayfield pelos atentados a bomba que mataram 192 pessoas nos trens de Madri dois meses antes. Contra ele só havia uma prova, mas era uma baita prova: uma impressão digital num saco plástico encontrado na cena do crime, que o laboratório do FBI apontou como dele, com 100% de certeza. Mayfield era o suspeito perfeito, um ex-militar, convertido ao islã, que já tinha defendido réus ligados ao Talibã e, por tudo isso, estava numa lista de observação das polícias. Só que ele não saía dos Estados Unidos havia uma década, e, no fim, a digital não era dele. Os peritos espanhóis bateram a mesma marca com a de um argelino. Duas semanas depois, Mayfield foi solto, o governo pediu desculpas e pagou 2 milhões de dólares. A conclusão oficial sobre o vexame, após uma investigação inteira, foi que houve “uma falha humana, não de metodologia ou tecnologia”. Pelo menos não botaram a culpa no estagiário.

No capítulo 20 de Ruído, vamos ver por que há viés até na impressão digital, a dimensão do erro que se esconde atrás da fama de “prova perfeita” e a solução simples que os laboratórios forenses acabaram adotando para se proteger.

Read more

Um eu que continua mudando é um eu que continua vivendo.
— Virginia Woolf

Quando eu era criança, a balança de casa — aquela que você sobe para saber como vai a dieta — era toda à base de molas e engrenagens que se afrouxavam com o tempo e, por isso, tinha atrás um mecanismo para ajustar o ponteiro para que ele sempre começasse do zero. Era um disco dentado de metal que, se não estivesse lá, ia me obrigar a fazer uma conta toda vez que fosse me pesar: se ela começasse marcando 1 kg a mais, eu ia precisar tirar essa diferença de cabeça no final. Nada complicado, mas chato — e talvez por ter acabado de acordar eu poderia acabar esquecendo algum dia.

É a versão Ruído desse disco que o capítulo 19 aborda, um jeito de zerar o ponteiro do julgamento humano para ele errar menos nas medidas. Daniel Kahneman, Olivier Sibony e Cass R. Sunstein começam pelos dois caminhos que a minha balança já. O nome bonito é desenviesamento ex post — abreviação do latim ex post facto, “depois do fato consumado” —, que desconta o erro depois, como eu fazendo conta de cabeça, e ex ante, que ajusta o instrumento antes, como o tal disco.

O desenviesamento ex post é o que a gente já faz no automático. É como quando empreiteira promete terminar a reforma em três meses, mas você dobra esse número porque sabe que obra sempre atrasa. O Reino Unido transformou essa abordagem em política de Estado. O Tesouro britânico publica o Green Book, um guia que manda os planejadores inflarem por escrito as estimativas de custo e prazo, com base no tamanho histórico do otimismo de cada órgão.

O ex ante previne em vez de corrigir, e tem duas famílias. A primeira mexe no ambiente da escolha — são o que o livro chama de nudges. Em inglês, nudge é aquela cutucada de leve, o empurrão discreto que orienta sem obrigar, e é isso que a técnica faz com uma decisão, inclinar para um lado sem tirar nenhuma opção da mesa. Um bom exemplo é a inscrição automática num plano de aposentadoria como o INSS no Brasil. Quem tem carteira assinada contribui por padrão, o desconto já vem na folha sem precisar fazer nada. Já o autônomo tem que se cadastrar e pagar por conta própria, e é quem mais deixa para depois e acaba ficando de fora.

Read more

A inteligência é apenas parte do problema. Como pensamos também é importante. Talvez devêssemos escolher a pessoa mais reflexiva e receptiva, e não a mais inteligente.

Fiquei quase 2 semanas fora, por conta de TEDxBlumenau e Web Summit Rio e, por isso, semana passada não tivemos Clube. Aproveitei para testar a funcionalidade de pausar cobrança do Substack nesse tempo. Como diria o aviso antigo da TV, hoje voltamos à nossa programação normal com a Parte V de Ruído, e com ela a virada do livro.

Isso porque, após quatro partes dedicadas a explicar por que erramos, Daniel Kahneman, Olivier Sibony e Cass R. Sunstein (finalmente?) passam a falar sobre o que dá para fazer para resolver. O primeiro movimento é de que, se o julgamento humano anda ruidoso, devemos escolher humanos que julguem melhor. Mas, calma. É preciso aprender como reconhecê-los. Os autores apontam três maneiras.

Julgamentos bons dependem do que você sabe, do que pensa e de como pensa. Juízes bons tendem a ser experientes e inteligentes, mas também costumam ser ativamente receptivos e se mostrar dispostos a aprender com informações novas.

O perfil de pessoa que mais toma decisões certas é quase o oposto do especialista seguro de si, daquele que fala bonito e nunca titubeia. E, ao descrever quem julga bem, os três autores acabam explicando, de quebra, por que confiamos tanto em quem soa convicto, mesmo quando a convicção não vem acompanhada de nenhuma garantia de acerto. Primeiro trilionário do mundo, estou olhando para você.

Read more

Contamos histórias para poder viver.
— Joan Didion

Entre as três fontes de ruído que o livro vinha separando — o juiz severo em tudo, o juiz com as manias só dele, o dia em que ele acordou com o pé esquerdo —, a que mais pesa é a segunda. O capítulo 17 fecha a Parte IV de Ruído, pondo os números na mesa, onde o componente dominante é o ruído de padrão estável, aquele que conhecemos no capítulo passado. É a reação particular de cada juiz a cada combinação de detalhes, a marca pessoal que se mantém igual com o tempo, e foi o que Daniel Kahneman, Olivier Sibony e Cass R. Sunstein quase deixaram passar.

Os números são consistentes entre diferentes estudos. Na companhia de seguros do capítulo 2, as diferenças de severidade entre os corretores — uns que cobram caro em tudo, outros baratos em tudo — não passavam de 20% do ruído total. Os outros 80% eram ruído de padrão, o jeito de cada corretor reagir a este cliente específico. Entre os juízes federais foi a mesma história. E no estudo das decisões de fiança que apareceu lá no capítulo 10, em que os pesquisadores construíram modelos de 173 juízes e os puseram para decidir mais de 24 milhões de casos, o ruído de padrão estável foi quatro vezes maior que o de nível.

Isso tem uma consequência prática direta para quem faz gestão de pessoas. O ruído de nível é o único que dá para medir sem montar uma auditoria inteira. Basta distribuir os casos ao acaso e comparar a média de cada profissional, que os extremos logo aparecem: quem aprova quase tudo de um lado, ou quem recusa quase tudo do outro. Foi assim que se descobriram grandes diferenças entre examinadores de patente e entre assistentes sociais decidindo se tiram ou não uma criança da família. Só que ruído de nível é o componente menos comum, como vimos acima. Se o ruído de padrão é o dobro ou o quádruplo disso, o problema real é muito maior do que o número que se consegue enxergar.

Entendido o tamanho, sobra a pergunta mais difícil de responder: com tanta evidência acumulada sobre o ruído, por que ele quase nunca é citado quando se discute um julgamento errado?

Read more

Minha alma é uma orquestra oculta; não sei que instrumentos, que cordas e harpas, tambores e timbales ressoam e chocam dentro de mim.
— Fernando Pessoa

Quando dois juízes igualmente competentes olham para o mesmo caso e chegam a sentenças diferentes, é fácil explicar parte do desencontro. Se um é severo em tudo e o outro leniente em tudo, basta descontar essa régua para alinhar os dois. Mas e quando, em um caso específico, aquele juiz famoso por sempre ser severo é mais brando que os colegas? Esse resto é o ruído de padrão, e é dele que trata o capítulo 16 de Ruído.

Para entendermos este ruído, Daniel Kahneman, Olivier Sibony e Cass R. Sunstein trazem de volta a Julie, aquela estudante cuja média na faculdade você tentou adivinhar no capítulo 14. Lá, a única informação que recebemos era de que ela aprendeu a ler aos quatro anos. Aí o raciocínio era de que criança precoce = boa aluna = média alta. Agora temos mais detalhes sobre sua vida. O pai, advogado, adoeceu e a alfabetizou em casa. A leitura fluente cedo, mas a aritmética que nunca entrou na rotina. O divórcio dos pais aos onze anos, que derrubou as notas e disparou os acessos de fúria na escola. O ensino médio brilhante em física, mas largado em quase todo o resto. A maconha nos primeiros semestres da faculdade e, de repente, no quarto, a decisão de cursar medicina e o aperto nos estudos. E agora, qual você acha que foi a média escolar dela?

O problema ficou bem mais difícil, porque agora as informações brigam entre si. Há sinais de talento e motivação convivendo com outros de fragilidade e fracasso, e a cabeça não consegue encaixar tudo numa história só. Quando as evidências apontam todas para o mesmo lado — como no caso do contador metódico e bom de números, que o livro já tinha usado —, o julgamento sai redondo e quase todo mundo concorda. Quando se contradizem, cada leitor agarra um fio diferente para puxar, monta uma narrativa única, e é dessa escolha silenciosa que nasce o desacordo.

A vida muitas vezes é mais complexa do que as histórias que gostamos de contar sobre ela.

Mas uma vida incoerente não é uma vida inventada. Pelo contrário, é a coerência boa demais que costuma soar suspeita, porque gente real raramente cabe num retrato sem arestas. Em livros e filmes, são os famosos “personagens bidimensionais”. A madrasta má, o playboy arrogante.

Read more

Então a justiça será útil quando o dinheiro for inútil.
— Platão

A régua que usamos para expressar um julgamento é, ela mesma, uma das principais fontes de ruído, e de todas elas, a pior é o dinheiro. Por isso, a indenização que um júri aponta em um processo é praticamente um chute, não porque os jurados discordem de quem errou ou do tamanho do erro, mas …

Read more

A comparação é o ladrão da alegria.
— Theodore Roosevelt

A mente humana é uma péssima régua e uma ótima balança de dois pratos ⚖. Peça uma nota de 0 a 10 para qualquer coisa — um vinho, um funcionário, a gravidade de um crime — e sua cabeça entrega um número que mal se sustenta. Mas pergunte qual entre dois vinhos é melhor, ou qual de dois funcionários re…

Read more

A heurística para responder a uma pergunta difícil é encontrar a resposta para uma mais fácil.

Os mesmos atalhos mentais que entortam o julgamento de todo mundo na mesma direção também conseguem espalhar os julgamentos em direções diferentes. Tudo que produz viés, portanto, também produz ruído. É essa a ideia que dá nome ao capítulo 13 e abre a Parte IV de Ruído, o ponto em que Daniel Kahneman, Olivier Sibony e Cass R. Sunstein param de medir o ruído e investigam a maquinaria mental por trás dele. Após doze capítulos mostrando onde o ruído se esconde e quanto custa, a pergunta passa a ser: de onde ele vem? A resposta é psicológica e está nas heurísticas e nos vieses, o território que rendeu a Kahneman o Nobel e que ele já tinha condensado em Rápido e devagar.

Quando encontra uma pergunta difícil, a mente não trava nem pensa muito — não fica gastando energia (calorias mesmo). Ela troca a pergunta por uma mais fácil e responde a essa, sem avisar ninguém, nem a si mesma.

O livro traz mais um exercício mental para explicar como isso funciona. Bill tem 33 anos, é inteligente, mas pouco criativo, meio compulsivo, era bom em matemática na escola e fraco em humanidades (praticamente uma letra do Legião Urbana). Sabendo disso, qual a profissão de Bill? E o que é mais provável, que ele toque jazz nas horas vagas ou que seja contador e toque jazz nas horas vagas? Quase todo mundo aposta na segunda. E quase todo mundo erra, porque acrescentar um detalhe a uma descrição só pode torná-la menos provável, nunca mais provável. É o gráfico de intersecção da escola. Nem todo jazzista é contador, mas pensar nesse detalhe dá mais trabalho, não é coisa do Sistema 1.

O que aconteceu é que a mente respondeu a uma pergunta que não foi feita. Em vez de “qual é mais provável?”, ela respondeu “Bill tem pinta de contador?”. Semelhança é fácil de avaliar, probabilidade dá trabalho, então a mais fácil ganha. Os autores chamam isso de substituição.

Read more

A estupidez das pessoas vem de ter resposta para tudo. A sabedoria do romance vem de fazer pergunta para tudo.
— Milan Kundera

Olha… este foi meu capítulo preferido até aqui, em um livro que, por outro lado, não tem me despertado fortes emoções, confesso. O Boa Noite Internet tem como slogan desde sempre “o podcast que tenta explicar o mundo através de histórias interessantes” (frase que meu revisor gramatical sempre avisa que está errada) e meio que é esse o assunto deste capítulo — não necessariamente como uma coisa boa. Mas a gente já chega lá.

Daniel Kahneman, Olivier Sibony e Cass R. Sunstein abrem a conversa com uma pesquisa de Sara McLanahan e Matthew Salganik, publicada em 2020. Cento e doze cientistas convocaram 160 equipes para uma competição meio no estilo hackathon do mundo da programação, mas aqui o desafio era usar milhões de pontos de dados sobre cinco mil crianças, acompanhadas do nascimento aos quinze anos. Cada equipe deveria fazer seis previsões sobre as crianças: que notas tirariam, quanta “fibra” (uma medida de perseverança) teriam, se a família seria despejada de casa, se passariam por dificuldades materiais, se o cuidador principal seria demitido e se este entraria em algum treinamento profissional. A maioria das equipes usou aprendizado de máquina, a famosa IA, para encontrar padrões nesse oceano de dados.

Os modelos sofisticados venceram os simples por uma margem apertada. Para despejos, o melhor algoritmo acertou em 57% dos casos. Para a média escolar, mais previsível por ser uma medida agregada, foi possível chegar a 65% de acerto. Ainda assim, bem longe da perfeição, como vimos no capítulo passado, todo mundo parando bem perto do teto da ignorância objetiva. O resumo do próprio paper, assinado pelos 112 cientistas que participaram, chega a dizer:

Os pesquisadores devem conciliar a ideia de que compreendem as trajetórias de vida com o fato de que nenhuma previsão foi muito precisa.

Se você ouvir algum “ólogo” dizendo que sabe explicar por que uma pessoa tem uma vida com dificuldades, desconfie. Esta pessoa só está sofrendo da negação da ignorância que vimos no capítulo anterior.

Read more

Fazer previsões é muito difícil, especialmente sobre o futuro.
— Niels Bohr

Quem nunca trabalhou com gente que se gabava do próprio faro? Tino comercial, intuição executiva, olho clínico, chama aí como quiser. Todo esse povo tinha pelo menos uma história favorita de uma decisão “tomada na cara e na coragem” que deu muito certo, provando o quê? Que ela é e…

Read more