Zuckerberg fala sobre o Muse: explosão de agentes de IA, convergência das três grandes apostas — 'Metaverso, óculos inteligentes e modelos grandes'

Há três anos, o CEO da Meta, Mark Zuckerberg, afirmou no programa de Joe Rogan que, um dia, as pessoas usariam óculos e agentes de IA surgiriam naturalmente. Hoje, esse cenário pode estar se concretizando.

O agente de IA pessoal da Meta — o Muse — alcançou milhões de usuários em apenas duas semanas após seu lançamento. Em entrevista em 25 de setembro, Zuckerberg declarou: «Enfrentamos esse tipo de situação apenas a cada poucos anos.» Ele descreveu a resposta inicial ao Muse como «um home run logo na primeira jogada» — uma raridade na história de produtos da Meta.

Ao mesmo tempo, ele anunciou que o Muse será integrado à linha completa de óculos inteligentes Ray-Ban, permitindo que os usuários acionem seu agente de IA pessoal diretamente com uma palavra de ativação personalizada, em vez de dizer «Ei, Meta».

O metaverso, os óculos inteligentes e os modelos grandes — há muito vistos pelo mundo externo como três apostas independentes — agora aceleram sua convergência no nível de produto dentro da Meta.

Nessa entrevista, Zuckerberg também admitiu que o fracasso do Llama 4 foi «o momento mais assustador» e revelou que a Meta está construindo um cluster de treinamento de 5 gigawatts, acreditando que potência computacional suficientemente grande poderia levar à AGI por «força bruta».

Por que o Muse conseguiu «acertar um home run logo na primeira jogada»

O ponto de partida do Muse ocorreu quando Zuckerberg e os membros da equipe Nat e Alex se reuniram e «montaram» uma versão inicial em casa usando ferramentas de código aberto.

«Percebemos que essa era uma experiência mágica», disse Zuckerberg. «Se conseguíssemos torná-la acessível a qualquer pessoa — sem exigir a compra de um Mac Mini ou a manipulação de terminais —, então isso seria algo que bilhões de pessoas desejariam.»

Essa avaliação orientou toda a lógica subsequente de pesquisa e desenvolvimento: não apenas treinar modelos, mas desenvolver integralmente o mecanismo «cardíaco» do Agente — desde o modelo e a estrutura até o próprio Agente, que desperta periodicamente, verifica as metas do usuário e avança proativamente nas tarefas pendentes.

Os dados pós-lançamento confirmaram essa avaliação: em duas semanas, milhões de usuários.

IA pessoal: foco em execução, memória e «julgamento»

Sobre a diferença entre IA pessoal e IA geral, Zuckerberg resumiu o foco competitivo atual como tornar o modelo um melhor Agente.

«O maior avanço do último ano foi basicamente programar o Agente», afirmou. A capacidade de programação é crucial porque, mesmo que os usuários não escrevam código diretamente, «seu Muse estará escrevendo código para você em segundo plano para executar diversas tarefas.»

No entanto, ele acredita que Agentes pessoais não devem ter apenas capacidades de codificação ou execução de tarefas; também precisam compreender limites de privacidade e contextos sociais.

Zuckerberg deu um exemplo: ao pedir ao Muse que reserve um restaurante, o Agente pode saber sobre alergias ou gravidez do usuário, mas isso não significa que essas informações devam ser automaticamente divulgadas. «Você gostaria que ele concluísse a tarefa revelando o mínimo possível de informações.»

Ele afirmou que essa capacidade pertence às 'habilidades sociais básicas ou senso comum' que os humanos normalmente possuem, mas muitas empresas não a incluíram nas capacidades de seus modelos se treinarem apenas agentes de programação.

'Estamos treinando o modelo inteiro, não apenas usando um modelo pronto de terceiros e construindo uma estrutura e um agente em torno dele', disse Zuckerberg. A Meta também adicionou funcionalidades como memória, acompanhamento de tarefas, animações de personagens virtuais e interação por voz em tempo real no nível do produto.

Sobre personalização, ele afirmou que a Meta não acredita que a IA deva ter apenas uma personalidade fixa. 'Muitos laboratórios focam em como ajustar a personalidade ao estado certo, mas nunca acreditei que haja apenas uma resposta correta para a personalidade.'

Ele mencionou que o Muse permite aos usuários modificar seu avatar, voz e personalidade básica, com o objetivo de projeto do modelo sendo alta controlabilidade. 'Você pode definir como deseja interagir com ele, o que é importante para um agente pessoal.'

Cada agente tem seu próprio 'computador'

Uma das infraestruturas centrais que diferenciam o Muse de outros produtos de IA é que a Meta equipou cada agente com uma máquina virtual segura (Secure VM).

Zuckerberg explicou por que isso é necessário:

Seu agente saberá muitas informações sensíveis sobre você. Não acreditamos que esses dados devam ser misturados em um pool com os dados de todos os demais.

Ele comparou a Secure VM do Muse a 'um computador que pertence exclusivamente a você, embaixo de sua mesa' — os dados do usuário são criptografados e armazenados, e credenciais sensíveis, como senhas, são gerenciadas por um módulo de segurança independente, que o próprio agente não pode ler diretamente.

Com base nisso, a Meta também projetou um agente de segurança chamado 'Sentinel', especificamente para monitorar o fluxo de dados de entrada e saída do Muse, interceptando diretamente e solicitando autorização do usuário caso detecte anomalias ou operações de alto risco.

Metaverso, óculos inteligentes e agentes: três caminhos convergindo

Zuckerberg revelou na entrevista que o Muse será totalmente integrado à linha de óculos inteligentes Ray-Ban, atualizando os métodos de interação existentes.

Atualmente, os óculos oferecem uma experiência de 'conversa em uma única etapa' — diga algo, receba uma resposta e pronto. Após a integração com o Muse, os óculos tornam-se o ponto de entrada frontal para o agente: ao falar, o Muse no back-end continua funcionando na máquina virtual segura, executando tarefas e fornecendo feedback.

Sobre a rota de desenvolvimento do produto para os óculos, ele descreveu uma hierarquia clara de hardware:

• Óculos puramente auditivos, sem câmera: já equipados com Muse, capazes de lidar com chamadas, música e tarefas por voz

• Ray-Ban da Meta com pequena tela: já lançado, oferecendo feedback visual básico

• Protótipo AR holográfico de campo de visão total: já lançado, que Zuckerberg descreveu como 'muito empolgante'

Ele afirmou que o investimento de longo prazo da Meta em óculos posiciona bem a empresa após a maturação dos agentes de IA. A Meta está incorporando o Muse e mais recursos de IA nos produtos de óculos, enquanto a tecnologia do metaverso — anteriormente focada em 'presença' — continua avançando, embora atualmente mais recursos estejam sendo direcionados ao Muse e às funções de IA dos óculos inteligentes.

Sobre avatares virtuais, Zuckerberg mencionou que, anteriormente, a Meta precisava de equipamentos em escala de ambiente, digitalização multiângulo e ambientes de GPU empresariais para gerar avatares realistas de alta qualidade; agora, os usuários podem concluir a configuração com apenas algumas fotos, e as capacidades relacionadas podem ser executadas em um par de óculos de RV.

Olhando para 2030, Zuckerberg afirmou que a visão central do metaverso sempre foi fundir os mundos físico e digital. Ele deu como exemplo que, no futuro, as pessoas poderão participar de atividades com amigos acessando por imagens holográficas; em cenários profissionais, humanos e múltiplos agentes também poderão participar de chats em grupo ou reuniões, com os agentes aparecendo em forma holográfica ou outra forma encarnada.

«O Momento Mais Assustador»: O Erro do Llama 4

Nem todas as apostas correram bem. Zuckerberg raramente falou diretamente sobre o fracasso do Llama 4 na entrevista.

Após o Llama 4, foi o momento mais assustador… Achávamos que estávamos no caminho certo, mas não estávamos. Foi uma surpresa negativa bastante significativa.

Ele atribuiu o problema a um erro fundamental na estrutura da equipe:

Organizei a equipe da mesma forma que o sistema de recomendações do Instagram ou o sistema publicitário — centenas ou milhares de pessoas trabalhando em paralelo. Mas treinar um modelo de linguagem exige uma pequena equipe que colabore de perto, tratando-o como um projeto científico coletivo. Cada posição é extremamente valiosa.

Como resultado, o Meta passou por uma reorganização completa, trazendo amplamente talentos de ponta do setor e criando o Meta Super Intelligence Lab (MSL). Zuckerberg afirmou que uma nova geração de modelos está prestes a ser lançada, mas não será anunciada na conferência Connect.

Rota de Poder Computacional: AGI por Força Bruta, Projeto de 5 Gigawatts em Construção

Ao discutir o caminho tecnológico para a AGI, Zuckerberg deu um julgamento direto.

Não tenho certeza quais avanços arquitetônicos fundamentais ainda são necessários… Acho que conhecemos, grosso modo, a fórmula. Se você conseguir construir um supercomputador suficientemente grande, poderá alcançá-la por força bruta.

Atualmente, a rota de expansão de poder computacional do Meta: um cluster de mais de 1 gigawatt em Ohio já está basicamente em uso para treinar a próxima geração de modelos; um cluster de 5 gigawatts na Louisiana está em construção.

Ele afirmou: «Quando você tem clusters de múltiplos gigawatts para treinamento, basicamente obtém algo próximo à AGI ou até mesmo à superinteligência.»

No entanto, ele também acrescentou que a atual rota impulsionada por poder computacional não significa que a pesquisa arquitetônica seja irrelevante —

O cérebro humano consome apenas cerca de 10 watts, enquanto nossos sistemas podem ser um milhão de vezes menos eficientes. Só combinando grande poder computacional com avanços arquitetônicos poderemos realmente liderar.

Alinhamento: Não é um ônus, mas um problema que os produtos precisam resolver

A postura de Zuckerberg quanto à segurança da IA é muito pragmática — ele não a vê como pressão regulatória, mas como pré-requisito para o sucesso do produto.

Se você pedir à Muse para fazer algo e ela fizer o oposto, quem ainda a usaria? Precisamos garantir que o modelo não só compreenda suas instruções específicas, mas também seus objetivos e valores.

«Se a Muse deve atingir um bilhão de usuários, precisamos resolver o problema de alinhamento ou obter progresso significativo nele», disse ele.

Sobre limites de segurança durante o treinamento, ele usou uma analogia: «É como pais estabelecendo regras para crianças — se ela «resolve» um problema de programação modificando configurações do sistema, quero dizer-lhe: não, quero que aprenda o método de resolução, não que encontre um atalho para contorná-lo.»

A entrevista completa é a seguinte: >

Grandes Apostas

Apresentador: Isso é algo que bilhões de pessoas quererão usar. Como é para você construir isso? A 'imortalidade' é uma possibilidade? Bem, se você me levar à sua mente e avançar rapidamente até 2030, como será isso?

Este é Mark Zuckerberg. Há vinte e dois anos, ele criou uma rede social que conectou bilhões de pessoas e mudou o mundo para sempre. Agora, decidiu construir algo ainda maior. Para isso, está fazendo grandes apostas nas áreas do metaverso, óculos inteligentes e inteligência artificial. Por anos, céticos consideraram essas três apostas separadas e improváveis de sucesso, mas ignoraram a visão ampla — pois, agora, elas convergem para criar uma nova superinteligência.

Hoje, apresentaremos tudo isso, e farei a Mark perguntas que nunca lhe foram feitas antes, ouvindo sua visão do futuro, permitindo que você se antecipe e construa o próximo grande avanço.

Apresentador: Muito obrigado por vir ao programa.

Mark: Obrigado, fico feliz em estar aqui.

Apresentador: Para esta conversa, assisti a todas as entrevistas que você já concedeu.

Mark: Uau, assisti a menos do que isso eu mesmo.

Apresentador: Foi divertido e muito gratificante. Duas coisas me impressionaram profundamente: primeiro, seu amor por 'construir' — sinto que você é um dos maiores construtores; segundo, sua capacidade de fazer grandes apostas — você ousa arriscar muito. Sinto que, nesta semana, todas essas apostas estão convergindo, então vamos começar por aí.

Mark: Certo. Fazemos essas coisas há muito tempo. Em termos de IA, como empresa, atuamos nisso quase desde nossa fundação — a primeira versão do feed de notícias era, de certa forma, um produto de aprendizado de máquina. Depois, há cerca de 15 anos, criamos o laboratório de pesquisa em IA.

Mas agora entramos numa nova fase — há cerca de um ano, lançamos o Laboratório de Superinteligência da Meta. Trata-se de uma reinicialização abrangente da pesquisa, trazendo talentos excepcionais de toda a indústria, o que é empolgante. Atualmente, observamos os modelos melhorando cada vez mais, e a próxima geração está prestes a ser lançada — embora não anunciada na conferência Connect. Além disso, temos o assistente pessoal Muse, que recebeu avaliações muito positivas até agora.

Ao construir essas coisas, você não sabe exatamente como serão os resultados. Nós mesmos gostamos delas. No início deste ano, estive em casa montando o Open Claw à minha maneira, sentindo como esse sistema funciona e como transformá-lo numa experiência mágica acessível a qualquer pessoa.

Basicamente, quando nós — eu, Nat e Alex — nos reunimos e percebemos que essa era uma experiência mágica, e que poderíamos transformá-la numa versão pronta para uso imediato, acessível a pessoas comuns que não entendem tecnologia, não querem configurar um Mac Mini sozinhas, não querem lidar com terminal nem depurar erros, pensei que isso seria algo que bilhões de pessoas desejariam usar.

Desde então, trabalhamos nesse objetivo: ajustar especificamente os modelos para esse fim, não apenas construindo o assistente e sua estrutura operacional, mas também desenvolvendo a tecnologia que fornece um ambiente computacional independente para cada assistente — criamos uma série completa de máquinas virtuais seguras Muse para esse propósito.

Internamente, sentimos que isso era especial, e a equipe interna gostou, mas nunca se sabe como o público reagirá após o lançamento. Às vezes ocorre um sucesso espetacular logo de cara, mas, na maioria das vezes, recebemos algum feedback positivo e precisamos iterar em alguns pontos para realmente tornar o produto 'atraente'. Desta vez, porém, ele foi um sucesso imediato. Ver tudo isso acontecer é realmente empolgante — em apenas duas semanas, o número de usuários já atingiu milhões, algo bastante raro. Isso ocorre apenas a cada poucos anos, mas este é definitivamente um dos momentos mais prazerosos para uma startup.

Apresentador: Sua capacidade de permanecer no jogo e continuar tentando realmente me impressiona. E acertar tantos 'home runs' é verdadeiramente notável. Você teve uma entrevista com Joe Rogan há cerca de três anos, na qual mencionou que, um dia, poderia usar óculos e o assistente de IA apareceria. Então, sinto que o Muse já possui uma representação física, o que é muito inteligente, pois essa sensação certamente ocorrerá.

Mark: Acho que isso simplesmente o torna mais amigável e encantador. Acredito que muitas pessoas descrevem a IA como algo assustador, mas ela deveria ser útil e divertida. Essa representação física — um designer criou esse personagem no início do projeto, e, por algum motivo, sempre quiseram refinar, mas a primeira versão foi a melhor. Depois, alguém disse: 'Ah, precisa ser azul porque é da Meta.' Respondi: 'Não, acho que essa representação está certa; você acertou na primeira tentativa.' É assim mesmo; é divertido.

Qual é a diferença entre IA pessoal e IA geral?

Apresentador: Ótimos detalhes. Se você deseja que o modelo se destaque em tarefas pessoais, em vez de ser apenas um modelo de inteligência geral, como a abordagem de treinamento diferiria?

Mark: Acho que, atualmente, o cerne é tornar o modelo um excelente 'agente'. No último ano, a maior tendência foi a programação de agentes, que envolve duas ideias centrais: expertise em programação e a capacidade geral de ser um excelente agente.

Nossa estratégia é priorizar a excelência do próprio agente, em vez de especializar-se em capacidades de programação.

A capacidade de programação é importante porque, mesmo que os usuários não achem que estão escrevendo código, o Muse constantemente o faz em segundo plano para executar diversas tarefas para você. Contudo, acreditamos que o agente deve ser, antes de tudo, um agente excepcional, e a capacidade de programação serve a esse objetivo.

Além disso, ao desenvolver um assistente pessoal, certos aspectos são mais importantes do que ao criar produtos de software empresarial. Por exemplo, ao construir uma ferramenta empresarial de programação, o modelo não precisa ter nenhum conceito de 'escala de divulgação de informações' — como quais dados devem ser compartilhados ou não. Já para o Muse, isso é fundamental.

Essa capacidade precisa ser treinada no modelo, assim como qualquer outra. Você lhe fornece muitas informações e espera que ele o ajude a atingir seus objetivos. Por exemplo, se deseja que ele reserve um restaurante, ele deve encontrar um local adequado, mas talvez você tenha alergias ou esteja grávida, e prefira não revelar isso ao restaurante. O Muse saberá esses dados e deverá concluir a tarefa divulgando o mínimo possível de informações — trata-se de uma habilidade específica, essencialmente o senso comum social básico dos humanos.

Contudo, empresas que desenvolvem apenas agentes de programação geralmente não treinam essa capacidade. Podemos fazê-lo porque adotamos abordagem full-stack: não utilizamos modelos prontos de terceiros e simplesmente os envolvemos em um framework; treinamos o modelo inteiro do zero, especificamente para suportar essas funcionalidades.

O modelo certamente precisa ter ampla inteligência geral, mas também possui essas capacidades específicas. Com base nisso, construímos todo o assistente e todos os detalhes que o cercam: memória, estrutura operacional e seu 'ritmo' — ele acorda periodicamente para verificar: 'Ok, esses são os objetivos que entendi sobre você; há algo que posso avançar agora?'

Também temos uma equipe dedicada exclusivamente ao aprimoramento dos efeitos de animação em tempo real da representação virtual, pois ela não é uma representação padrão — você pode personalizar qualquer representação, e ela se move de forma natural, o que é fantástico. Também estamos lançando o modo de voz, permitindo conversas em tempo real por voz, com seu assistente ao seu lado. Acredito que todos esses detalhes decorrem de nossa abordagem full-stack — o modelo e o produto são desenvolvidos em conjunto.

Apresentador: Outro ponto importante é a máquina virtual. Pode explicar por que ela é relevante e o que possibilita?

Por que a Meta fornece a cada assistente de IA um computador independente?

Mark: Basicamente, para que um agente execute tarefas para você, ele precisa de um local seguro para armazenar suas informações. Acreditamos que esses dados não devem ser misturados em um pool compartilhado com as informações de todos os demais usuários.

Você pode entender assim: seu assistente saberá muitas informações sensíveis sobre você. Muitas pessoas, ao conhecerem agentes inteligentes como o OpenCloud, montam um Mac Mini em casa. Pensamos então: muitos não querem comprar nem configurar um Mac Mini sozinhos. Qual experiência se aproxima melhor desse cenário? A resposta é: basta baixar um aplicativo, se registrar e receber um computador dedicado exclusivamente para seu assistente trabalhar, armazenar dados e construir um modelo seguro em torno dele. É como ter seu próprio computador sob sua mesa — até mesmo nós, da Meta, não temos acesso a ele.

Por exemplo, a máquina virtual confidencial do Muse é um recurso em desenvolvimento, e nem mesmo nós podemos ver seu conteúdo.

Também desenvolvemos diversos recursos em torno disso, como armazenamento seguro de credenciais: quando seu assistente precisar lidar com senhas, ele próprio não precisa visualizá-las; basta ser capaz de 'inserir' credenciais quando você solicitar o login em um serviço, e apenas fazer isso mediante sua autorização explícita. O sistema deve ser projetado para que essas informações não sejam livremente acessíveis, pois acidentes sempre podem ocorrer — alguém pode tentar invadi-lo ou o sistema pode apresentar falhas.

Portanto, é essencial garantir que nem o agente nem a Meta possam acessar esses dados. Fornecer a cada assistente um computador independente e maximizar a segurança é a base fundamental dessa tecnologia — habilitar o Muse com as capacidades necessárias para ajudar os usuários a alcançarem seus objetivos, assegurando privacidade e segurança, tornando-o um produto líder mundial nesse campo.

Apresentador: Isso significa, então, que, assim como no WhatsApp, os dados na máquina virtual conectada ao Muse são criptografados? Como as pessoas devem compreender o armazenamento real dos dados na máquina virtual?

Mark: Basicamente, desenvolvemos duas versões. A máquina virtual segura do Muse (Secure VM) inclui diversos recursos de privacidade, entre eles toda a arquitetura do agente Sentinel que criamos. Você tem um assistente Muse comum executando tarefas para você, e, simultaneamente, há um agente de segurança chamado Sentinel, que monitora especificamente o fluxo de dados para dentro e para fora do seu Muse.

Se algum conteúdo externo tentar comprometer a segurança, o Sentinel o bloqueia imediatamente para impedir tal ocorrência. Se ele detectar que seu Muse está prestes a executar uma ação que exija sua intervenção, substituirá a operação do Muse e acionará um alerta para confirmação humana — por exemplo: 'Você deseja que o Muse realize esta ação?'

Todo esse sistema, combinado ao armazenamento seguro de credenciais e à defesa em múltiplas camadas, constitui a máquina virtual segura do Muse.

Também estamos desenvolvendo outro projeto. Nat e eu contratamos especificamente Moxie Marlinspike — o mesmo que colaborou conosco na implementação da criptografia de ponta a ponta no WhatsApp — para projetar a máquina virtual confidencial do Muse (Confidential VM). A ideia central é fornecer-lhe uma chave de criptografia dedicada além da máquina virtual segura, de modo que nem mesmo a Meta possa acessar seu conteúdo interno.

Essa versão é mais desafiadora de implementar, pois, se a Meta não puder acessar o interior da máquina virtual, depurar e garantir o funcionamento contínuo do sistema torna-se muito mais difícil. Por isso, dedicamos algum tempo a ela, mas será lançada em breve. Isso atenderá, essencialmente, aos padrões de segurança já conhecidos pelos usuários no WhatsApp e em nossos produtos mais seguros.

Apresentador: A vantagem de fazer isso é apenas fazer as pessoas se sentirem psicologicamente mais seguras, ou há benefícios reais?

Mark: Acho que a segurança é importante por si só. Nosso objetivo é aproximar-se da experiência de ter um computador local sob sua mesa. O que esse computador local oferece? Significa que nenhuma empresa pode acessá-lo.

Então, supondo que a Meta queira lhe oferecer esse serviço, como podemos garantir o mesmo nível de privacidade e segurança, de modo que nenhuma empresa — seja a Meta, alguém tentando invadir-nos ou governos locais em países onde você não confia — possa acessá-lo? Pois nem nós mesmos podemos acessá-lo, já que não temos direitos de acesso.

Acho isso muito importante e uma das principais razões pelas quais as pessoas confiam no WhatsApp. Há um valor real na privacidade, segurança e confiança.

Se você tiver um assistente que saiba tudo sobre você — acredito que quase todos teremos tal assistente —, daqui a cinco anos, todos terão um assistente capaz de entender seus objetivos e tudo sobre você, ajudando-o a concretizar tarefas. Nesse cenário, liderar a indústria em privacidade e segurança é fundamental. Queríamos fazer isso desde o início.

Como moldar a personalidade da IA?

Apresentador: Você fez um ponto interessante — estudou psicologia na faculdade.

Mark: Bem, estive lá por pouco tempo, apenas dois anos, mas sinto que isso influenciou muito do que construí depois.

Apresentador: Ao analisarmos modelos, costumamos dizer que certo modelo é 'muito inteligente'. Mas, assim como ao escolher amigos, certamente é porque são inteligentes, mas também porque gostamos de sua energia e de como interagem. Como você considera moldar a personalidade do modelo?

Mark: Acho que o modelo ideal deve ter adaptabilidade suficiente para se adequar aos estilos de diferentes pessoas. Sinto que muitos profissionais do setor seguiram na direção errada nisso — muitos outros laboratórios focam em 'como projetar corretamente a personalidade', mas nunca encarei a personalidade como algo fixo. Essa também é uma das razões pelas quais acredito firmemente no código aberto e na capacidade das pessoas de personalizar, e por que projetamos o Muse como um produto altamente personalizável.

Você pode personalizar o Muse — não apenas imagem e voz; ao se cadastrar, a primeira pergunta é: 'Como você quer que seja minha personalidade básica?' — e você pode modificá-la a qualquer momento.

Buscamos tornar o modelo altamente controlável, permitindo que você defina como deseja interagir. Esse é um componente crucial para transformá-lo num excelente assistente pessoal — essa adaptabilidade em torno da personalidade é essencial.

Apresentador: Qual é o estilo do seu próprio Muse?

Mark: Configurei-o como direto e focado em eficiência. É bastante interessante. As versões anteriores eram muito sarcásticas e humoradas, mas esta é mais objetiva. Meu assistente usa a imagem padrão do Muse, mas vesti-o com uma toga e dei-lhe uma voz grave a ponto de ser cômica, tornando as interações divertidas.

Apresentador: Acho que, para ter senso de humor, é preciso ser realmente inteligente. Muitas pessoas não percebem que comediantes estão entre as pessoas mais inteligentes da sociedade — precisam ser rápidos e perspicazes. Você certamente possui essa característica. Assisti a todas as suas entrevistas, e você sempre se saiu muito bem.

Previsões surpreendentes de Mark sobre IA e metaverso

Apresentador: Em sua entrevista com Theo, você falou muito sobre a próxima fronteira da tecnologia e para onde tudo isso está indo. O campo da IA passou por vários períodos de 'inverno', nos quais as pessoas achavam que não haveria avanços. O metaverso também passou por vários desses períodos, quando as pessoas sentiam que era uma aposta irrealizável. Testei ontem o novo recurso holográfico, e é muito impressionante. Na entrevista com Lex, parecia levar 11 horas para gravar seu rosto, mas agora leva apenas 3 minutos. Como chegamos a este ponto hoje?

Mark: No desenvolvimento geral do metaverso, ao fundarmos a Reality Labs, sempre acreditamos que, eventualmente, surgiriam óculos com aparência normal, que, com o tempo, proporcionariam presença imersiva e também funcionariam como excelentes dispositivos de IA — pois óculos são a única forma capaz de ver o que você vê e ouvir o que você ouve, comunicando-se com você o dia inteiro e exibindo imagens.

Mas, há 10 a 15 anos, eu supunha que alcançaríamos primeiro a tecnologia holográfica e, só depois, teríamos uma IA altamente desenvolvida. Contudo, o caminho da evolução tecnológica é interessante: na verdade, obtivemos primeiro a IA e a superinteligência pessoal, seguidas pela tecnologia que tornou a holografia suficientemente difundida e acessível. Isso não previ, mas fico feliz com os avanços em ambas as frentes.

Nossos investimentos significativos em óculos colocam-nos numa posição muito favorável à medida que os assistentes de IA ficam prontos. Muitos anúncios da conferência Connect trataram da integração do Muse e de diversos recursos de IA nos óculos, o que acredito que os usuários adorarão. Trata-se de um grande avanço.

Quanto à presença, ainda estamos progredindo, mas o ritmo é relativamente lento, pois a maior parte de nossa energia foi direcionada para o desenvolvimento do Muse e de recursos de IA para óculos. Contudo, temos um projeto de longa data: avatares virtuais em tempo real de alta fidelidade.

Como você mencionou, há três ou quatro anos, era necessário uma sala inteira de digitalização para capturar uma pessoa sob diversos ângulos, além de GPUs corporativas para renderização — um processo muito trabalhoso. A demonstração feita no podcast de Lex usava exatamente essa configuração. Hoje, já conseguimos executá-la basicamente em um par de óculos de RV — este é o primeiro modelo de óculos capaz de oferecer uma experiência de RV tão impressionante, sem ser um headset volumoso. Basta tirar algumas fotos para criar seu avatar virtual, e os avanços são surpreendentes.

Apresentador: E ele também pode gerar expressões com base na voz. Na demonstração, fez-me rir, interagir e, em seguida, compreender como meu rosto se movia em sincronia com a trilha de áudio. Você mencionou, naquele podcast, que algumas pessoas normalmente mais reservadas quanto às expressões desejam, na verdade, expressões mais ricas no mundo virtual. O que você pensa sobre as pessoas distinguirem seu 'eu virtual' do 'eu real'?

Mark: Acho que ainda estamos nos estágios iniciais de compreensão desse fenômeno, tanto sociológica quanto psicologicamente. Sinto que a autopercepção das pessoas e a imagem que desejam projetar muitas vezes diferem, em certa medida, de seus eu reais. Desde o surgimento das redes sociais, as pessoas vêm selecionando cuidadosamente seus avatares. Observamos fenômenos semelhantes com as imagens virtuais do Muse. Não se trata tanto de 'curar' a si mesmo, mas de 'curar' a 'pessoa' com quem deseja se comunicar.

Acredito que, ao oferecer às pessoas a capacidade de se expressarem, queremos que isso as capture genuinamente, mas também seja, por si só, uma forma de expressão — não apenas um reflexo puro e simples. É, ao mesmo tempo, comunicação e expressão. Esperamos construir algo que equilibre ambos. Trata-se sempre de um ciclo iterativo: observar como as pessoas usam o recurso e, então, aprimorá-lo. Após anos de trabalho, estamos agora, de fato, na linha de partida — é a primeira vez que podemos incorporar, de forma genuína, avatares realistas de qualidade relativamente alta em produtos, utilizáveis em celulares e em RV. Estou muito animado para ver os resultados.

Como será 2030?

Apresentador: Certo, me leve ao seu raciocínio: imagine o ano de 2030 — se tudo correr bem, como será a tecnologia holográfica? Hologramas combinados ao Muse e aos óculos: como eles se integrarão?

Mark: Minha compreensão da visão do metaverso sempre foi sobre fundir efetivamente o mundo físico com o digital. A ideia básica é: temos este belo mundo físico e também um incrível mundo digital — o vasto conteúdo acumulado na internet nos últimos 20 a 30 anos é de tirar o fôlego. No entanto, a forma como acessamos esse conteúdo é limitada: ou sentados à mesa ou por meio de uma pequena tela no bolso.

Acho que a versão ideal disso é uma integração perfeita entre os mundos físico e digital. Pense assim: agora, nós dois estamos aqui. Em alguma versão futura, um de nós poderia ser uma projeção holográfica, mas você ainda sentiria aquela sensação genuína de presença um com o outro — algo totalmente diferente de uma chamada de vídeo.

O cerne da realidade virtual é transmitir essa sensação de presença — fazê-lo sentir, de fato, que está na mesma sala com outras pessoas ou em outro lugar. Isso pode ser alcançado com tecnologia holográfica, integrada de várias maneiras. Por exemplo, eu poderia jogar pôquer com amigos, com alguns presentes fisicamente e outros participando por meio de imagens holográficas — e ainda assim jogarem cartas; até a própria mesa de pôquer poderia ser holográfica, permitindo integrar aqueles que não estão presentes.

Ao mesmo tempo, a IA também poderá ganhar corpo e aparecer nesse cenário. Isso faz muito sentido em contextos profissionais — atualmente, uso diversos agentes de programação para construir coisas. Imagine isto: você tem um canal de bate-papo com várias pessoas e vários agentes, e atribui tarefas aos agentes. Mas, às vezes, todos se reúnem para uma reunião — e os agentes também deveriam estar presentes. Como eles aparecem? É simples: basta adicionar mais alguns assentos no sofá, e eles podem surgir como imagens holográficas. Ou usar aquele personagem fofo do Muse, ou um dragão, ou qualquer imagem peculiar que você criar.

Acho que isso parecerá bastante natural no futuro.

Apresentador: Interessante. Você mencionou em entrevistas anteriores que a indústria tecnológica frequentemente esquece o aspecto 'divertido'. Acho que ter um assistente físico ali também tornaria a experiência mais real — é como realmente terceirizar tarefas. Quando você vê o Muse digitando, dá a sensação de que algo realmente está acontecendo. Isso foi bem feito — você consegue ver o que ocorre no navegador. Então, você acha possível um cenário em que você usa óculos e controla seu computador, deixando o Muse ajudá-lo a realizar tarefas nele?

Mark: Ah, com certeza. A RV já permite isso. Você pode sentar em qualquer lugar — até em uma cafeteria — e abrir sua estação de trabalho com seis monitores para escrever código; tudo estará lá.

No lado dos óculos, o modelo mais popular atualmente não possui display, o que o torna mais acessível e permite que mais pessoas o usem, enquanto continuamos trabalhando para integrar displays na forma mais compacta possível. No entanto, lançamos uma versão com display dos Meta Ray-Ban, muito popular — trata-se de um display pequeno. Também divulgamos uma versão protótipo de RA holográfica de campo total, que, acredito, será muito empolgante.

Assim, toda a linha de produtos se apresenta assim: desde óculos puramente auditivos — sem câmeras, com aparência idêntica à de óculos convencionais, mas contendo o Muse internamente, capaz de usar diversas ferramentas de áudio, ouvir músicas e fazer chamadas — até versões mais avançadas, abrangendo toda a gama.

Apresentador: Fico imaginando: com esses óculos auditivos, é possível conversar com o Muse enquanto seu computador doméstico executa tarefas?

Mark: Sim, absolutamente. Acabamos de lançar esse recurso na conferência Connect. Agora, todos os óculos estão conectados à Meta AI, criando uma experiência de 'única interação': você envia um comando e recebe uma resposta imediata. Com o Muse, porém, queremos atualizar todos os óculos para o Muse. Primeiro, você não precisa mais dizer 'Ei, Meta'; pode nomeá-lo como quiser — parte da diversão está aí. Depois, basta conversar diretamente com ele; ele se conecta ao seu Muse, que processa as tarefas em sua máquina virtual segura para ajudá-lo a concluir o que for preciso.

Apresentador: Incrível!

Mentalidade de Fundador

Apresentador: Tudo bem, estamos aqui agora. O Muse está progredindo sem problemas e os óculos estão indo bem, mas há cerca de um ano muitas pessoas perguntavam: 'O que aconteceu com o Laboratório de Superinteligência?' Naquele momento, como você se sentiu por dentro? Como foi quando as coisas não iam bem, mas você ainda enxergava a visão de longo prazo?

Mark: O verdadeiro problema estava no projeto Llama e no Llama 4.

O Llama 1 foi um modelo bastante interessante; pioneiro em todo o movimento de IA de código aberto, do qual temos grande orgulho. O Llama 2 alcançou escalabilidade; o Llama 3 foi um excelente modelo, quase na vanguarda na época. Já com o Llama 4, desviamos basicamente da trajetória de desenvolvimento que deveríamos ter seguido.

Sempre que as coisas não seguem a direção que espero, passo muito tempo refletindo: por que isso está acontecendo? O que precisamos mudar para melhorar? Desta vez, minha reflexão foi: estruturei mal toda a equipe.

Modelei-a como fazemos o trabalho de aprendizado de máquina para feeds do Instagram ou sistemas de anúncios — com centenas ou até milhares de pessoas trabalhando em paralelo em muitas frentes. Mas, para construir modelos de linguagem, o que realmente se precisa é de uma equipe pequena e extremamente coesa, tratando o projeto como uma empreitada científica coletiva. Não são necessárias muitas pessoas, mas isso significa que cada posição na equipe é extremamente valiosa.

Então recrutamos os melhores profissionais de toda a Meta e trouxemos diversos talentos da indústria para formar uma equipe totalmente nova — o Laboratório de Superinteligência da Meta.

Na minha perspectiva, ao lançar o MSL, sabia que levaria tempo para reiniciar, reconstruir a infraestrutura e treinar a próxima geração de modelos. Mas sabia também que havíamos reunido uma equipe excelente e, se ela trabalhasse bem em conjunto, os resultados seriam bons.

Para mim, o momento mais emocionante foi, na verdade, após o lançamento do Llama 4 — pensei que estávamos no caminho certo, mas descobri que não estávamos. Foi uma surpresa negativa bastante significativa. Acho que, como empreendedor, você sempre é testado nesses momentos, pois inevitavelmente nem tudo sairá conforme o esperado. E o que realmente define a trajetória de desenvolvimento é: quando as coisas não seguem a direção desejada, como encontrar um novo caminho.

Apresentador: Imagino que seja o oposto também — quando algo supera suas expectativas, como o lançamento do Muse, como você garante aproveitar essa oportunidade?

Mark: Absolutamente. Agora, toda a empresa está envolvida — inicialmente era apenas uma pequena equipe desenvolvendo o produto, mas agora todos percebem que ele está realmente pronto para ocupar o palco principal. Toda a empresa está pensando em como escalar esse produto e permitir que centenas de milhões de pessoas o experimentem.

Desde otimizar toda a infraestrutura para garantir operação fluida, extrair ao máximo o poder computacional das GPUs existentes, até equipes de produto integrarem o Muse de várias formas — como nos óculos. Ver todos trabalhando juntos para garantir que o Muse possa escalar sem problemas é uma sensação fantástica.

Como Mark escreve e comunica sua visão

Apresentador: Como fundador, sinto que este é o momento que você mais anseia — tudo se alinha. Como você comunica sua visão à empresa? Com tanta coisa acontecendo simultaneamente, sinto que você escreve muito. Qual é seu processo?

Mark: Escrever é muito útil para mim; ajuda-me a refinar meus pensamentos e comunicá-los externamente. Este verão, escrevi um longo artigo chamado 'O Futuro Pertence a Todos', com cerca de 15 páginas, que me ajudou a esclarecer sistematicamente minha posição filosófica sobre importantes questões sociais relacionadas à IA: o que considero bom, como devem ser as interações com o governo, como prevenir preocupações diversas da população, como transformar data centers em riqueza para a comunidade — gerando empregos de fato, em vez de destruí-los, como manter a segurança nacional e como mitigar eficazmente riscos que preocupam as pessoas — seja hacking ou biosegurança.

Trata-se de um assunto muito complexo, que demanda muito tempo, muitas discussões e rodadas de revisão com diversos colegas internamente. Mas, para mim, foi um processo muito valioso. No final, chegamos a algo assim — 15 páginas com 'Esta é nossa crença'. Depois, resumi-o em uma versão de uma página para publicação como coluna. Também produzimos um vídeo curto, pois acredito que, para atingir muitas pessoas, muitas vezes não é preciso apresentar um argumento teórico, mas sim condensá-lo em: quais são seus valores, em que você acredita e como comunicá-los.

Não há uma fórmula única para comunicar esses aspectos à empresa ou ao mundo. Diferentes momentos exigem abordagens distintas, e diferentes grupos podem ter níveis variados de alinhamento com o que você faz; alguns ressoam naturalmente, enquanto outros podem estar mais preocupados e precisar de orientação, exigindo esforço adicional para explicar por que é valioso. Acho que isso faz parte de administrar uma empresa e ser fundador — você não fica repetindo a mesma coisa infinitamente; cada situação é ligeiramente diferente, enfrentando novos desafios, o que torna o trabalho interessante.

O que motiva Mark a construir?

Apresentador: Sinto que, para você, essa mentalidade de fundador vai além da empresa — seja na sua fazenda ou ao aprender uma nova habilidade.

Mark: Simplesmente adoro construir coisas.

Apresentador: O que 'construir' significa para você?

Mark: Acho que é uma necessidade intrínseca. Pessoas diferentes têm formas distintas de se expressar. Se você é escritor, sente que precisa escrever. Algumas pessoas precisam de reconhecimento. Já eu simplesmente preciso construir coisas. Se não exercito minha criatividade ou não construo algo, fico irritado — o que não é agradável para quem está ao meu redor.

Apresentador: Aprender a ser um excelente esquiador é a mesma habilidade que aprender a desenvolver um produto?

Mark: Em certa medida, sim: o processo de aprender coisas novas é bastante semelhante. Ao longo da vida, desafiei-me intencionalmente com atividades nas quais não era bom. Por exemplo, sempre tive dificuldade em aprender idiomas. Foi por isso que comecei a estudar latim — não conseguia aprender francês nem espanhol na escola, então pensei: 'O latim não exige fala, apenas tradução, como a matemática.'

Mais tarde, ao liderar uma empresa, estabeleci desafios anuais para mim mesmo, um dos quais foi aprender mandarim. O mandarim é realmente difícil, especialmente os tons. Claro, há boas razões para aprendê-lo — a avó de Priscilla só fala mandarim, então, se quero me comunicar com ela, preciso dominá-lo. Mas a maior motivação é, na verdade, o próprio desafio.

Todas essas coisas só podem ser feitas — não há atalhos para 'entendê-las'. É preciso investir tempo, e aos poucos elas vão se incorporando à sua mente. Aprender artes marciais ou pilotar um helicóptero é igual: são coisas difíceis de 'compreender' racionalmente; exigem acumulação prática.

Desenvolver produtos é parcialmente assim. Programar pode ser pensado teoricamente, mas a intuição para criar produtos só se desenvolve com experiência prática repetida. A única questão é o que você gosta — pois acredito que nem todos têm essa forte necessidade de construir, como eu tenho; a maioria tem certo grau dessa necessidade, e o essencial é descobrir qual é e investir tempo nela para se destacar no que realmente deseja fazer.

Honestamente, acho que não é só um 'desejo', mas uma necessidade psicológica profunda ou um impulso interno. Alinhar esse impulso com algo e dar-se tempo para que essas experiências se integrem e se consolidem é crucial. É também o que tento ensinar aos meus filhos — ajudá-los a descobrir o que realmente os interessa, mas, ao enfrentarem um obstáculo, incentivá-los.

Uma das minhas filhas adora criar música, mas simplesmente não suporta as aulas de piano. Disse-lhe: 'Você não precisa se tornar uma mestra do piano, mas, se quer criar música, precisa ter uma compreensão intuitiva da teoria musical e de como ela funciona. E, ao aprender piano, você consegue pegar facilmente a guitarra.' Acho que, seja como criança que precisa de um empurrão dos pais, seja como adulto, ter a disciplina de sentar e permitir que essas coisas se consolidem lentamente na mente é fundamental.

A Era Dourada dos Construtores

Apresentador: Sinto que, na verdade, todos querem construir. Não acho que a Geração Z seja tão criticada por baixa agência quanto o mundo exterior afirma. Acho que as pessoas só buscam a faísca que acende seu poder de construção. Você falou muito sobre isso em seu discurso na Universidade Harvard.

Mark: Sim. Quando digo 'construir', refiro-me principalmente a produtos como softwares, hardwares etc. Concordo, porém, que todos têm algum impulso criativo. Contudo, algumas pessoas têm traços de personalidade mais fortes que ofuscam esse impulso, como o senso de serviço — aqueles que se tornam médicos ou enfermeiros têm como motivação central: 'Quero cuidar dos outros.'

Ouvi uma história, possivelmente da experiência de Priscilla na faculdade de medicina: no primeiro dia de aula, alguém se levantou e perguntou: 'Quantos de vocês têm memórias da infância de ver alguém e pensar: 'Quero muito cuidar dessa pessoa'?'. Todos ergueram as mãos. No meu caso, a versão é: tenho muitas lembranças da infância de pensar: 'Quero melhorar essa coisa.'

Nem todos têm o mesmo impulso, mas todos têm algo que desejam fazer. Concordo que, com tecnologias anteriores, começar era difícil para muitos. É isso que mais me entusiasma na superinteligência pessoal, no Muse e em diversos assistentes de IA: acho que, pela primeira vez na história, as pessoas realmente conseguem começar rapidamente. Você tem uma ideia vaga, a IA ajuda a estruturá-la e, depois, você a aperfeiçoa, como escultor moldando uma obra, sem precisar entender tudo antes de começar.

Acho isso extremamente poderoso, e muitas pessoas descobrirão o que querem criar ou impulsionar graças a isso. Isso ajudará as pessoas a sentirem um senso mais amplo de agência.

Até onde Estamos de Erradicar Todas as Doenças?

Apresentador: Outro projeto seu, além do Meta, é erradicar todas as doenças. Fico curioso: primeiro, até onde estamos, de fato, desse objetivo?

Mark: Muito mais próximos do que antes.

Apresentador: Realisticamente, até onde você acha que estamos?

Mark: Quando lançamos inicialmente esse projeto, a meta era ajudar a comunidade científica a erradicar todas as doenças até o fim deste século. Nunca pretendemos fazê-lo sozinhos; nossa premissa é: todos os grandes avanços científicos são precedidos por novas ferramentas capazes de medir e compreender certos fenômenos. Por exemplo, a invenção do microscópio nos permitiu entender as bactérias; o telescópio nos ajudou a compreender o universo.

Algumas dessas ferramentas até se tornaram plataformas — por exemplo, a primeira pessoa a inventar uma vacina permitiu que esse método fosse usado para tratar muitas doenças.

No entanto, historicamente, a distribuição de financiamento científico tem sido amplamente descentralizada, permitindo que indivíduos explorem de forma independente, e houve poucos recursos realmente dedicados à construção dessas grandes ferramentas. O que buscamos fazer no Biohub é projetar várias novas ferramentas que permitam às pessoas 'ver' a biologia de maneiras inovadoras, acelerando assim o progresso da comunidade científica.

Inicialmente, achávamos que 'até o fim deste século' era uma meta muito viável, e muitos biólogos na época consideravam-na impossível. Hoje, porém, sinto que o fim deste século está muito distante.

O avanço da IA, combinado com os modelos de célula virtual em desenvolvimento — a ideia básica é realizar experimentos não em células vivas reais, mas sim simular proteínas por meio de modelos de IA, depois simular células e, ainda mais, simular um sistema imunológico virtual ou até um organismo inteiro, inclusive um ser humano completo. Isso permitirá que cientistas realizem milhares de experimentos, simulando o que ocorreria em diferentes cenários, como quais reações aconteceriam no corpo de alguém ao tomar determinado medicamento.

Não quero indicar um ano exato, mas imagino que será muito antes do fim deste século.

Apresentador: A meta de 'vencer todas as doenças' parece intencional, ao contrário de 'imortalidade'. A imortalidade é uma possibilidade?

Mark: Essa não é realmente minha especialidade. Creio que se tratam de coisas distintas. 'Imortalidade' diz respeito mais à extensão da vida — mesmo sem adoecer, o corpo humano tem uma expectativa de vida natural, outro tema que precisa ser estudado separadamente. Algumas pessoas poderiam considerar isso uma espécie de 'doença', o que é uma perspectiva razoável, mas penso que também é preciso trabalhar para vencer as doenças que ainda causariam adoecimento mesmo após resolvermos a questão da longevidade.

A parte do problema que escolhemos abordar não significa que você nunca pegará um resfriado. Nossa declaração é 'curar, prevenir ou gerenciar': algumas doenças poderão ser curadas completamente; outras, acredito, poderemos prevenir no futuro; e há aquelas em que, talvez, você ainda adoeça, mas o que antes causaria danos graves ou até a morte poderá agora ser gerenciado como uma condição crônica sem impacto significativo na qualidade de vida.

O objetivo é manter o corpo humano em equilíbrio — não que jamais entremos em contato com patógenos, mas que, um dia, consigamos curar, prevenir e gerenciar todas as doenças.

Qual é o pensamento mais frequente na mente de Mark?

Apresentador: A IA atuou como catalisador em diversas descobertas, incluindo a inteligência pessoal. O que mais lhe vem à mente atualmente? Quais são seus principais pensamentos nesse processo?

Mark: Isso pode mudar toda semana.

Atualmente, estou muito focado no Muse. Sempre que lançamos algo, avançamos rapidamente, depois interagimos com o mundo real, compreendemos o feedback das pessoas e definimos os próximos passos — essa fase é sempre empolgante. Estamos nela agora, coletando muitas informações para entender o que as pessoas desejam. A boa notícia é que elas realmente gostam, então trabalhamos duro para levar o maior número possível de usuários a utilizá-lo.

Ainda há muito trabalho a fazer no modelo: o Muse Spark já fez grandes avanços, e esperamos continuar progredindo para criar um modelo líder mundial.

Quais avanços são necessários a seguir?

Apresentador: Quais avanços ainda são necessários?

Mark: Ao pesquisar isso, talvez não seja possível prever tudo antecipadamente. Temos intuições sobre certas direções, e grande parte do trabalho realizado no último ano foi, de fato, expandir a infraestrutura.

Cerca de um ano e meio atrás, mais pessoas diriam que alcançar a superinteligência exigiria avanços arquitetônicos fundamentais. Hoje, porém, não tenho tanta certeza disso. Creio que já compreendemos bem a 'fórmula' — se for possível construir um supercomputador suficientemente grande, é possível chegar lá por força bruta computacional.

Estamos construindo esse cluster em Ohio, com potência superior a 1 terawatt, já basicamente operacional; usamo-lo para treinar a próxima geração de modelos. Há ainda o cluster de 5 terawatts na Louisiana, que entrará em operação em breve. Estimo que, ao treinar com clusters na faixa de múltiplos terawatts, aproximaremos-nos da AGI — e até ultrapassaremos essa fronteira rumo à superinteligência.

Mas isso não significa que seja o melhor caminho. O cérebro humano opera com apenas 10 watts, enquanto nossos sistemas computacionais são cerca de um milhão de vezes menos eficientes. Portanto, acredito haver espaço para melhorias arquitetônicas, e também estamos explorando — ao combinar enorme poder computacional com aperfeiçoamentos arquitetônicos, podemos realmente construir algo de liderança mundial. Por ora, contudo, o simples aumento de escala já nos leva muito longe.

Apresentador: De fato, a escalabilidade é o caminho mais confiável. Na pesquisa, é preciso torcer por grandes avanços, mas a escalabilidade traz resultados rapidamente.

Mark: É por isso que grandes empresas escolhem esse caminho. Pode haver uma forma muito mais barata, mas ainda não a conhecemos. E isso é algo tão valioso para o mundo que, mesmo custando centenas de bilhões de dólares, desde que a probabilidade de sucesso seja suficientemente alta, ainda vale a pena — garantindo que, mesmo que não se encontre uma solução mais barata no final, você tenha um caminho claro para alcançá-la. Claro, se encontrar uma forma mais barata, será ainda melhor.

Portanto, não quero dizer que esse problema está 'resolvido', pois, em cada etapa de expansão da infraestrutura, surgirão novos desafios de engenharia que precisarão ser depurados e resolvidos. A própria pesquisa avança dessa maneira iterativa.

Como Vencer a Batalha da Segurança em IA

Apresentador: Uma das coisas mais importantes agora é focar na alinhamento, tornando os modelos confiáveis.

Mark: Sim. Há um debate na indústria sobre alinhamento: esses laboratórios de IA o farão naturalmente? Minha opinião é: certamente farão. Se você pedir à Muse para fazer algo e ela fizer exatamente o oposto, não sei quantas pessoas ainda gostariam de usá-la. Devemos garantir que o modelo não só entenda o que você pediu especificamente, mas também compreenda suas intenções e valores, para que não aja de forma que você não aprove ou produza efeitos negativos que você absolutamente não deseja. Essa compreensão profunda é, essencialmente, o alinhamento.

Minha visão é que, para tornar a Muse bem-sucedida e alcançar bilhões de pessoas, precisamos avançar realmente no alinhamento, não apenas falar sobre ele.

Apresentador: O alinhamento é alcançado por meio do usuário dizer 'isso não é o que eu quero' ou por sua equipe descobrir isso nos bastidores?

Mark: Ambos. O feedback do usuário existe, mas acho cada vez mais claro que o alinhamento deve ser feito durante a fase de treinamento, não apenas após a implantação. Hoje, os modelos são inteligentes o suficiente para que, se não for bem feito na fase de treinamento, a maioria dos problemas de segurança e acidentes observados em outros laboratórios ocorra durante o treinamento, não após a implantação para os usuários.

Você precisa criar um 'currículo' muito bom para ele, como pais ensinam crianças, estabelecendo limites claros. Se ele fizer algo errado, precisa aprender: 'não, você deve resolver mesmo esse problema de programação, não contorná-lo modificando alguma configuração do sistema para obter uma recompensa' — quero que você aprenda esse método por meio do processo real de resolução de problemas; esse é o significado do treinamento.

Isso envolve, em grande parte, estabelecer mecanismos de segurança eficazes e limites claros. São tarefas naturais que a indústria precisa assumir, e estamos investindo muito tempo nisso; a situação muda todos os dias.

Apresentador: Lembro-me de você ter mencionado que a questão da segurança em IA parece ter se tornado repentinamente um foco nas últimas duas semanas, mas, na verdade, nenhum evento isolado desencadeou esse momento. Parece que você quer dizer que, internamente, dedicamos alguns meses extras ao treinamento.

Mark: Para a Muse, sabemos que este produto exige muita atenção à privacidade e à segurança. Temos uma versão inicial do modelo que acreditamos poder treinar ainda mais quanto à 'escala de divulgação de informações' — como discutimos anteriormente. Por isso, reservamos tempo para isso. Também dedicamos tempo para tornar a máquina virtual mais segura. Isso levou alguns meses extras.

Não concordo totalmente com declarações de outros laboratórios — 'estamos sofrendo muito para desacelerar'. Para mim, isso é o certo para a Meta e os usuários da Muse. Queremos lançar um produto de qualidade; se o produto não for bom, prejudica os usuários e a nós mesmos — não queremos lançar algo que deixe uma má primeira impressão, fazendo com que as pessoas percam o interesse em usá-lo.

Acredito que todos os laboratórios têm uma motivação intrínseca muito forte para acertar. Se alinharmos os mecanismos de incentivo com o objetivo de 'extremamente valioso e seguro', esse é o ponto-chave.

Apresentador: Muito obrigado por dedicar seu tempo nesta semana tão importante.

Mark: Obrigado, obrigado.