A História por Trás da Ruptura Entre Dois Gigantes da IA, Mais Dramática Que uma Intriga Palaciana

Por: Bitpush

Os detalhes da ruptura mais cara do Vale do Silício finalmente vieram a público.

Recentemente, The Atlantic publicou o primeiro trecho de The AGI Chronicles, novo livro de Kevin Roose, renomado autor norte-americano best-seller e apresentador de podcast. Para o livro, Roose entrevistou mais de 150 insiders da OpenAI, Anthropic e Google DeepMind, além de analisar grande volume de documentos corporativos não divulgados e memorandos internos para reconstruir essa ruptura sensacional na história do Vale do Silício.

Se tudo que você sabe é que Dario Amodei deixou a OpenAI com um grupo de pessoas no final de 2020 para fundar a Anthropic, isso é apenas a ponta do iceberg. O verdadeiramente impressionante é a «intriga palaciana» que ocorreu antes de sua saída.

O «Plano dos Países»: Uma Proposta Arrojada para Leiloar a AGI

Amodei nutria grandes esperanças na OpenAI. Em 2016, deixou o Google para se juntar a essa jovem instituição sem fins lucrativos de pesquisa. Segundo o relato de Roose, ele foi figura-chave ao direcionar a OpenAI para o caminho dos modelos de linguagem de grande porte, e sua equipe participou do desenvolvimento do GPT-2 e do GPT-3.

À medida que a pesquisa avançava, Amodei tornava-se cada vez mais convencido de que modelos em maior escala poderiam levar à AGI — inteligência artificial geral. Contudo, simultaneamente, sua confiança na liderança da empresa continuava a diminuir.

Uma das primeiras coisas que o incomodaram ocorreu em 2017.

Na época, o apoio financeiro de Musk à OpenAI começava a vacilar, e o laboratório precisava urgentemente encontrar um novo caminho. O cofundador Greg Brockman e o cientista-chefe Ilya Sutskever propuseram um plano interno que, posteriormente, passou a ser chamado de «plano dos países».

O plano começou de forma razoável, prevendo uma coalizão internacional na qual todos gerenciariam conjuntamente os riscos da AGI e compartilhariam seus benefícios.

Mas, quando Brockman e Sutskever o apresentaram formalmente aos funcionários numa reunião interna, havia saído totalmente dos trilhos: transformara-se numa campanha de captação de recursos para «leiloar» os futuros direitos de uso da tecnologia AGI a diversos governos, citando-se os Estados Unidos, a China e a Rússia.

A lógica dos dois era a seguinte: como a AGI envolve segurança nacional, os governos inevitavelmente a apreenderiam da empresa que a desenvolvesse. Como ela teria de ser entregue de qualquer forma, melhor vendê-la por um bom preço enquanto a empresa enfrentava dificuldades financeiras.

Uma pessoa familiarizada com a apresentação reclamou: «Soava como um grupo de profissionais de tecnologia vendendo uma startup maluca, terminando com: ‘que o governo arque com as despesas’».

Dario Amodei era vice-presidente de pesquisa da OpenAI na época. Após ouvir o plano, enviou um e-mail contundente a Brockman, Sutskever e outros executivos. Nele, escreveu que o plano «exacerbaria, em vez de reduzir, uma corrida armamentista», poderia «levar a atrocidades contra os direitos humanos» e permitiria que os governos fizessem «coisas indescritíveis» com seus próprios cidadãos — além de «minar a legitimidade moral da OpenAI».

Em termos simples: querem vender a tecnologia mais poderosa da humanidade para eles? Perderam o juízo?

Felizmente, o investimento substancial subsequente da Microsoft salvou a situação, e o plano nunca se concretizou. A resposta da OpenAI foi que a empresa «considerou brevemente transformar-se numa iniciativa cooperativa internacional», mas «não considerou vender a AGI à China ou à Rússia».

O plano, no fim, nunca foi adiante, mas Amodei não esqueceu que a diretoria havia discutido seriamente uma ideia que ele considerava repugnante.

Da Microsoft a Kanye: as rachaduras na confiança se aprofundam

Depois disso, uma série de questões aparentemente menores continuou a aprofundar sua desconfiança.

Durante a versão beta privada do GPT-3, Amodei pediu a Altman a lista de clientes autorizados a usar o modelo. Altman forneceu-lhe uma lista, mas Amodei afirmou ter descoberto posteriormente outra, mais longa. Ele começou a suspeitar que as informações apresentadas tinham sido filtradas.

E uma disputa sobre o investimento da Microsoft agravou suas reservas.

A carta pública da OpenAI contém uma cláusula bastante incomum: se um projeto alinhado a valores e consciente da segurança se aproximar de atingir pela primeira vez uma IAG (inteligência artificial geral), a OpenAI deixará de competir com ele e passará a apoiá-lo. Isso significa que, em certas circunstâncias, a missão da empresa deve prevalecer sobre vencer a corrida.

Segundo o novo livro de Roose, ao negociar um investimento de US$ 1 bilhão com a Microsoft, Amodei quis garantir que esta aceitasse o acordo de aquisição da OpenAI, que poderia ser usado para cumprir esse compromisso. Altman informou-lhe que a Microsoft não aceitaria os termos correspondentes.

Amodei não acreditava que fosse tão simples. Suspeitava que Altman, ansioso para fechar o acordo rapidamente, talvez tivesse desistido de insistir nisso — ou sequer levantado a exigência — transferindo a culpa para a Microsoft.

Para Amodei, o problema tornava-se cada vez mais difícil de resolver por meio de discussões comerciais: ele já começara a duvidar se o Altman sentado diante dele estava disposto a lhe dar um relato completo das negociações.

Em 2020, Kanye West — o rapper que mais tarde expressaria publicamente admiração por Hitler — surgiu inesperadamente nessa crescente lista de queixas.

Citando duas pessoas familiarizadas com o assunto, Roose relata que, após encontrar Kanye, Altman propôs incluí-lo na versão beta privada do GPT-3.

Na época, o GPT-3 ainda não havia sido lançado publicamente e era o principal ativo estratégico da OpenAI. Jack Clark, então diretor de políticas da OpenAI, interveio para bloquear a proposta, observando que Kanye havia recentemente postado um vídeo que parecia mostrá-lo urinando em um prêmio Grammy e que seu comportamento público era preocupante. Logo depois, Kanye começou a expressar publicamente admiração por Hitler.

O convite nunca foi efetivado, mas aprofundou ainda mais a insatisfação de Amodei com o julgamento de Altman. Roose escreve que, isoladamente, a maioria desses incidentes não teria sido suficiente para levá-lo a renunciar, mas, em conjunto, tornaram difícil acreditar que Altman fosse apto a lidar com uma tecnologia tão poderosa quanto a IAG.

Roose revela no livro que, em 2020, Amodei já estava profundamente desiludido com a liderança da OpenAI. Descreveu Altman como um «manipulador de duas caras» e considerou Brockman «ambicioso e imprudente».

Na verdade, o conflito central entre eles resumia-se a duas palavras: confiança.

Relata-se que Amodei mantinha um pequeno caderno particular durante seu tempo na OpenAI, anotando os momentos em que sentia que Altman o havia enganado.

Numa dessas anotações, escreveu: «O problema da OpenAI é o próprio Sam.»

Formação de facções e grupos?

Do outro lado, colaboradores internos da OpenAI também iam ficando cada vez mais frustrados com Amodei.

Segundo reportagem de Roose, Amodei e sua irmã Daniela gradualmente atrairam um grupo de colegas com ideias semelhantes. Criaram canais privados de bate-papo, realizaram reuniões separadas e discutiram frequentemente questões de segurança. Para alguns funcionários fora desse círculo, esse grupo tornou-se cada vez mais difícil de lidar.

Um ex-colega reclamou a Roose que Amodei frequentemente declarava uma escolha específica como moralmente correta, como se invocar simplesmente a segurança devesse encerrar o debate. Isso enfurecia outras equipes.

Amodei achava que objetivos comerciais sempre prevaleceriam sobre compromissos com a segurança; alguns colegas sentiam que ele havia transformado a segurança numa justificativa incontestável. Assim, sua insatisfação mútua estendeu-se de decisões específicas para estilos de trabalho e julgamentos de caráter.

No fim, o conflito convergiu para um poder concreto: o time de segurança poderia vetar lançamentos de novos produtos?

Segundo Roose, antes de sair, Amodei apresentou a Altman um conjunto de condições para permanecer, incluindo conceder ao time de segurança tal poder de veto. Ele esperava que a pressão de pesquisadores principais potencialmente saírem em massa levasse Altman a aceitar mudanças.

Num bate-papo secreto, começa a contagem regressiva para uma «cisão»

Enquanto isso, mesmo com as negociações em andamento, já se preparava uma saída.

Amodei e seis colegas criaram um canal privado no Slack chamado «BATNA» — melhor alternativa a um acordo negociado. Os membros incluíam sua irmã Daniela, além de Jack Clark, Sam McCandlish, Tom Brown, Chris Olah e Jared Kaplan.

O próprio nome do grupo resumia perfeitamente sua situação: ainda negociavam, mas já estavam prontos para sair.

Quando as condições para ficar não puderam ser acordadas, ambas as partes trouxeram advogados e começaram a negociar o que internamente foi chamado de «divórcio».

Segundo a reportagem de Roose, Altman concordou em dar a esse grupo uma janela de recrutamento de várias semanas para contratar funcionários da OpenAI, em troca do compromisso de não recrutar ninguém por um ano após; as duas partes também concordaram em não se denegrir publicamente.

Em dezembro de 2020, a OpenAI realizou uma reunião virtual com todos os funcionários.

No início, não parecia diferente do habitual. Altman relatou os avanços nas pesquisas, apresentou novos funcionários e, em seguida, passou a palavra a Amodei.

Depois, Amodei anunciou que ele e outros seis líderes deixariam a empresa para fundar uma nova organização focada na segurança da IA.

Segundo a descrição de Roose, a janela de bate-papo encheu-se rapidamente de mensagens surpresas e emojis. Ao final da reunião, Jack Clark digitou uma frase no chat: «Eu amo vocês todos», e então a tela apagou-se abruptamente.

Sete membros centrais da OpenAI, incluindo Dario Amodei e sua irmã Daniela Amodei, foram expulsos da reunião simultaneamente, e seu acesso a e-mail e Slack foi revogado naquele instante.

Em seguida, no início de 2021, foi fundada a Anthropic.

Quando os rancores terminarão?

Contudo, recomeçar não libertou Amodei dos problemas que antes o afligiam.

A Anthropic também precisava levantar fundos, expandir sua capacidade computacional e desenvolver modelos mais poderosos. Só dominando tecnologias de ponta poderia estudar os riscos mais avançados; mas, para manter-se nessa vanguarda, tinha de continuar investindo e enfrentar concorrentes cada vez mais próximos. À medida que a empresa crescia, Amodei também precisava responder à mesma pergunta familiar: quando segurança, negócios e competição colidem, qual cede primeiro?

O ressentimento mútuo entre as duas partes não diminuiu nem um pouco.

Pessoas a par do assunto afirmam que Amodei já usou a palavra «maligno» para descrever Altman e a OpenAI; por sua vez, alguns funcionários da OpenAI sentiam que os irmãos Amodei se apresentavam como paradigmas morais, embora fossem igualmente ávidos de poder. Irritava-os especialmente o fato de a Anthropic alertar publicamente sobre riscos da IA enquanto acelerava sua participação na corrida.

No livro, Roose descreve esses líderes da IA como «uma teia de aranha emaranhada de hostilidade»: Hassabis despreza Altman, Amodei despreza Altman, Altman despreza Amodei e Altman também despreza Musk.

Anos depois, a teia não se desfez; ao contrário, cada um enfrenta novos problemas. A Bloomberg relata que a Anthropic busca abrir capital já em meados de novembro, com valorização-alvo de até 2 trilhões de dólares; contudo, seu prospecto revela também o outro lado: receita de cerca de 4,6 bilhões de dólares em 2025, mas prejuízos operacionais superiores a 8 bilhões, além do compromisso futuro de investir mais de 500 bilhões em poder computacional. Altman, por sua vez, mantém cautela quanto a um IPO, afirmando que não há pressa para abrir capital antes de resolver questões de segurança e alinhamento — mas a OpenAI também tem sido assediada por incidentes de segurança em IA recentemente.

Na época, Amodei saiu porque não confiava em Altman, buscando fundar uma empresa onde compromissos com segurança realmente importassem. Agora, sua própria empresa enfrenta o mesmo dilema: sustentabilidade do crescimento e preocupações com segurança — nenhum dos dois pode ser negligenciado. Nessa questão, nenhum deles ainda apresentou uma resposta definitiva.