Título original: «Jensen Huang vai para a esquerda, Amodei vai para a direita» Autor original: Su Yang, Tencent Technology

Se a IA de ponta deve continuar acelerando ou frear tornou-se o tema mais controverso atualmente no Vale do Silício.

Em torno dessa controvérsia, gigantes do Vale do Silício começaram a tomar posições. Amodei, Altman, Musk e Hassabis formaram o «campo da pausa». Jensen Huang é um firme «aceleracionista», criticando o «apocalipse da IA» como sem base científica; Yann LeCun zombou continuamente de Amodei, dizendo: «(Amodei) já achava o GPT-2 perigoso demais para ser open-source quando estava na OpenAI. Zombei dele então, e agora todos podem continuar.»

Em contraste, Zuckerberg e Nadella, entre outros, assumiram uma postura relativamente neutra.

As posições tomadas pelos gigantes significam que o Vale do Silício não chegou a um consenso sobre a pausa em modelos de ponta. Isso decorre das diferentes posições ecológicas de cada empresa na cadeia industrial da IA. Líderes no nível de modelos podem pedir uma pausa por diversos motivos, mas obter resposta positiva de empresas como Oracle, AWS — que detêm centenas de bilhões de dólares em pedidos de computação — e Nvidia, no topo da cadeia alimentar, é impossível.

Em Washington, o apelo à «pausa» não só não obteve apoio, como também desencadeou uma série de dúvidas.

«Parece-me um pouco um cavalo de Troia.» Disse JD Vance numa entrevista. Essa declaração reflete, na verdade, a visão real de Washington — quando as empresas que constroem o cavalo de Troia pedem repetidamente para estreitar o portão, deve-se examinar para quais empresas esse portão realmente serve.

01 Pausa, alerta e uma carta de demissão

O gatilho para esse debate foi a demissão de Jacob Cockson, pesquisador da Anthropic.

Ele havia feito três anos de pesquisa de pré-treinamento na OpenAI e na Anthropic, participando pessoalmente do treinamento dos modelos mais avançados. Num longo post no X, ele dispensou quase toda formalidade: «Nenhuma das duas empresas age com responsabilidade. Estão correndo direto rumo à superinteligência autoaperfeiçoável, apostando nossas vidas nisso.»

Ele afirmou diretamente que pessoas dentro dos laboratórios acreditam genuinamente que a IA poderia matar toda a humanidade em uma década — e isso não é absolutamente uma encenação para relações públicas. Muitos colegas já começaram a usar termos como «momento crítico» e «fim do jogo» para descrever a fase atual. Cockson até abriu mão de ações que estavam prestes a se tornar exercíveis. Ele havia estado na Anthropic apenas quatro meses, e, segundo as regras da empresa, são necessários seis meses para exercer as opções.

Jacob Coxon, ex-pesquisador da Anthropic

Pouco depois, Evan Hubinger, líder científico de alinhamento da Anthropic, respondeu publicamente: «Jacob tem razão; acreditamos genuinamente que a IA pode matar toda a humanidade. Pessoalmente, acho que há mais de 10% de chance disso ocorrer em dez anos. A Anthropic está tentando, mas ainda não temos um plano claro para alinhar superinteligências, e estamos muito longe de estar no caminho certo.»

Esses dois tiros trouxeram à tona preocupações que vinham fermentando principalmente dentro dos laboratórios. Nesse contexto, Dario Amodei, fundador e CEO da Anthropic, publicou rapidamente um longo ensaio, propondo sistematicamente a ideia de «desacelerar a pesquisa de ponta». Ele deixou de falar apenas em «investir mais em segurança» e passou a exigir explicitamente o controle do ritmo dos saltos de capacidade, para dar tempo aos mecanismos de segurança alcançarem o ritmo.

Altman, Musk e Hassabis rapidamente endossaram publicamente essa posição, formando a «facção da pausa».

Antes dos argumentos de «desaceleração» de Jacob Coxon e Amodei, «pais fundadores da IA», como Yoshua Bengio e Geoffrey Hinton, vinham emitindo continuamente iniciativas chamando atenção para os riscos.

Ao falar sobre a renúncia de Coxon, Bengio afirmou que cientistas de laboratórios de IA de ponta costumam perceber as capacidades dos modelos mais recentes antes do público, logo seus julgamentos sobre riscos merecem atenção séria.

Ao mesmo tempo, Bengio também deu exemplos concretos, afirmando que os sistemas de IA atuais já possuem capacidades de invasão e persuasão, e, se usados contra os interesses humanos, poderiam causar consequências graves. Ele também teme que, à medida que a IA adquirir capacidades de planejamento de longo prazo, tais riscos possam se ampliar ainda mais.

Quando questionado pela BBC sobre a probabilidade de a IA «matar todos os humanos» na próxima década superar 10%, Geoffrey Hinton também disse que esse valor é «razoável», mas enfatizou que ninguém realmente sabe como dar uma estimativa confiável, pois a humanidade nunca enfrentou antes «a existência de uma espécie que poderá em breve ser mais inteligente do que nós».

Hinton acredita que, no futuro, a IA poderá ser usada para projetar vírus biológicos perigosos, vírus de computador e lançar ciberataques em larga escala. Por isso, a humanidade precisa encontrar métodos eficazes de controle antes que os riscos saiam totalmente de controle.

Diferentemente dos defensores da nova onda de «teoria da pausa» do Vale do Silício, os «pais fundadores da IA» buscam sobretudo chamar atenção para os riscos e explorar mecanismos de controle, em vez de frear diretamente o desenvolvimento. Além disso, quanto à postura, as opiniões e sugestões da academia tendem a ser mais puramente motivadas, enquanto iniciativas de laboratórios de ponta, mesmo rotuladas abertamente como «pela humanidade», dificilmente se desvinculam 100% de considerações comerciais.

É exatamente por isso que JD Vance afirmou que a «teoria da pausa» é como um cavalo de Troia.

02 Divergência e posicionamentos

Os campos «aceleracionista», «desaceleracionista» e «moderado». Fonte: The New York Times

Em 15 de setembro, líderes de várias empresas de tecnologia falaram sucessivamente na conferência Salesforce Dreamforce, e esse debate começou a se transformar num confronto mais direto de pontos de vista.

Naquele dia, Amodei, Jensen Huang e Altman discutiram segurança em IA, mas deram respostas distintas sobre o ritmo de desenvolvimento, responsabilidades em segurança e o que as empresas deveriam fazer.

Ao dividir o palco com o CEO da Salesforce, Marc Benioff, Amodei reafirmou que as empresas de IA devem estabelecer padrões mais rigorosos de segurança por meio de suas próprias ações. Ele acredita que a adoção proativa de medidas de segurança mais estritas pelas empresas pode impulsionar toda a indústria.

Ou seja, a postura de Amodei começou a mudar: de pedir que toda a indústria reduzisse o ritmo, passou a incentivar que as empresas instalem independentemente barreiras de segurança.

Jensen Huang declarou que «não são necessárias novas leis nem novos regulamentos». Em sua visão, velocidade e segurança não são alternativas excludentes; as empresas podem avançar no desenvolvimento de modelos tão rápido quanto possível e, ao perceberem que algo está fugindo ao controle ou que o produto não garante segurança, devem pausar e resolver o problema.

A postura de Benioff foi mais aberta e enfatizou a autonomia. Ele afirmou que, se uma empresa achar que deve desacelerar, deve fazê-lo; se achar que deve acelerar, deve fazê-lo — e assumir responsabilidade por suas próprias decisões.

O fundador e CEO da OpenAI, Altman, afirmou no evento Dreamforce estar muito confiante de que a OpenAI — e até toda a indústria de IA — pode desenvolver-se com segurança, sem causar danos significativos ao público. Também disse ter ficado decepcionado com a interpretação externa de que suas opiniões apoiavam uma desaceleração geral do desenvolvimento de IA.

Ou seja, Altman também passou a enfatizar que seu objetivo não era pedir uma desaceleração da indústria, mas sim garantir que o trabalho de segurança e monitoramento preceda melhorias nas capacidades.

Zuckerberg, por sua vez, não defende que as ações de segurança de uma empresa dependam da premissa de que outras empresas de IA devam desacelerar simultaneamente. Ele acredita que instituir organismos independentes de avaliação e consultores externos para testar a segurança dos modelos é uma boa prática da indústria. Revelou ainda que o Meta havia desacelerado sozinho o desenvolvimento da ferramenta de IA Muse, sem esperar que outras empresas chegassem primeiro a um consenso sobre desacelerar o desenvolvimento de IA.

A postura do CEO da Microsoft, Satya Nadella, alinha-se parcialmente com a de Altman, incentivando tanto a inclusão de barreiras quanto a plena concorrência.

«A primeira coisa que precisamos fazer é servir a humanidade e garantir que a tecnologia permaneça sob controle humano. Ao mesmo tempo, a difusão ampla da tecnologia de IA é o mais importante — deve haver escolha e concorrência. A segurança deve ser levada a sério, mas tratada por meio de engenharia e transparência, não por meio de mistificação», afirmou Nadella em 15 de setembro, durante a All-In Summit 2026.

Além desses empreendedores, vozes de Washington também se juntaram ao debate.

Após Trump ligar diretamente para Jensen Huang e expressar publicamente apoio ao contínuo desenvolvimento da indústria de IA, David Sacks, co-presidente do Conselho Presidencial de Assessores em Ciência e Tecnologia, afirmou que as empresas de tecnologia podem seguir avançando em IA de ponta, ao mesmo tempo que questionou os motivos por trás dos argumentos de 'desaceleração' apresentados por algumas empresas.

03 Quem Define as Regras?

À medida que a discussão se ampliou, a controvérsia estendeu-se além dos riscos da IA, abrangendo também a questão de se os padrões de segurança para IA de ponta devem ser definidos pelas próprias empresas ou exigem intervenção governamental e de instituições independentes.

A Bloomberg, citando fontes familiarizadas com o assunto, informou que Anthropic, Google e OpenAI haviam discutido previamente a criação de um órgão setorial para normas de IA.

Em julho, Hassabis publicou um artigo propondo a criação de uma agência norte-americana de normas de IA, operando de forma semelhante à Autoridade Reguladora da Indústria Financeira (FINRA). Essa agência poderia testar modelos avançados de IA antes de sua implantação formal para verificar se atendem aos respectivos padrões de segurança.

Na visão de Hassabis, essa agência não deveria ser totalmente liderada pelo governo, mas adotar um modelo de parceria público-privada: o governo desempenharia um papel fiscalizador, a indústria de IA forneceria financiamento, e especialistas técnicos independentes de alto nível, bem como representantes da comunidade de código aberto, participariam ativamente.

Hassabis buscou introduzir uma verificação independente de segurança antes que os modelos entrem no mundo real — alinhando-se estreitamente com uma lógica regulatória anunciada pelo governo norte-americano no início de junho: as empresas poderiam submeter voluntariamente seus modelos à avaliação governamental antes da divulgação pública, com uma janela de acesso de até 30 dias antes do lançamento, sem aprovação obrigatória nem licença de lançamento.

O que é particularmente dramático é que, ao lançarem posteriormente Fable 5 e Mythos 5, esses modelos não seguiram esse processo e revelaram capacidades extremamente fortes de ofensiva e defesa cibernéticas, sendo, por fim, retirados brevemente do ar pelo BIS norte-americano sob forma de controles de exportação.

Mesmo assim, a postura política apenas exige a inclusão de salvaguardas de segurança, sem emitir declarações ou orientações sobre desaceleração.

Jakub Pachocki, cientista-chefe da OpenAI, compartilha uma visão semelhante à de Hassabis. No início de setembro, ele também enfatizou que o compartilhamento de padrões de segurança e a coordenação internacional em torno do desenvolvimento contínuo da IA devem ser prioridades atuais.

04 Ninguém Está Realmente Freando

Até agora, esse debate não alterou efetivamente o ritmo de desenvolvimento das empresas de IA de ponta.

Empresas como Anthropic, OpenAI, Google e xAI continuam avançando na pesquisa e no desenvolvimento de modelos, e a competição por poder computacional, centros de dados e infraestrutura de IA não cessou por conta desse debate. No nível do mercado de capitais, contudo, surgiram mudanças distintas: a Anthropic ainda se prepara para seu IPO deste ano, enquanto a OpenAI adiou seu plano de IPO para 2027.

Amodei deseja paralisar toda a indústria e levar a Anthropic a buscar soluções conjuntas para inserir salvaguardas contra capacidades de modelos que ultrapassem limites — o que, em certa medida, pode ser entendido como 'generosidade às custas dos outros'.

É por isso que Amodei foi rotulado de 'fingir ser um anjinho imaculado'.

Sobre controle de riscos, a posição representada por Jensen Huang está, na verdade, mais alinhada com a realidade atual: se as empresas tiverem preocupações ou identificarem problemas, podem explorar plenamente soluções por conta própria e compartilhar com a indústria as soluções eficazes que desenvolverem.

Exigir que equipes de 100 e de 1.000 pessoas parem simultaneamente simplesmente carece de qualquer base consensual. Até mesmo Amodei sabe bem que, se ele parar sozinho, provavelmente será superado por concorrentes como a OpenAI.

Mais importante ainda são as diferenças no nível de governança corporativa. Tanto a Anthropic quanto a OpenAI são Empresas de Benefício Público, podendo, portanto, defender a 'renúncia a interesses financeiros de curto prazo em prol do futuro da humanidade' e comunicar aos investidores que 'chegamos a esse consenso há muito tempo'. Já empresas listadas como Google, Microsoft e Meta têm, por lei, dever fiduciário para com acionistas do mercado secundário.

Para empresas com esses dois conjuntos distintos de interesses, a possibilidade de alcançar consenso nesse ponto também é bastante reduzida.

Há ainda um detalhe que pode passar despercebido: antes da 'teoria da pausa', tanto a Anthropic quanto a OpenAI lançaram sucessivamente seus modelos mais avançados — um sendo o Fable 5.1 e o outro, o GPT-6 Astra.

Em meio a uma série de pedidos, outras empresas ainda lançarão seus novos modelos?

Link original