Superinteligência em 2025: O Alerta de Musk Sobre o Big Bang da Inteligência e o Risco de Aniquilação

O Início do Big Bang da Inteligência

ENTREVISTADOR: Elon, bem-vindo à AI Startup School. Estamos realmente privilegiados por ter sua presença aqui hoje.

Elon Musk: Obrigado por me receberem.

ENTREVISTADOR: Houve algum momento em sua vida em que você sentiu: "Eu tenho que construir algo grandioso"? E o que virou essa chave para você?

Elon Musk: Eu não pensei originalmente que construiria algo grandioso. Eu queria tentar construir algo útil, mas, se você olhar probabilisticamente, parecia improvável. Mas eu queria pelo menos tentar.

ENTREVISTADOR: Esta é uma sala cheia de jovens de 18 a 25 anos, muitos são os pesquisadores de IA mais eminentes que estão surgindo.

Elon Musk: Eu acho que gosto mais do termo "engenheiro" do que "pesquisador". Suponho que se houver algum avanço algorítmico fundamental, isso é pesquisa, mas, caso contrário, é engenharia.

Os Primeiros Dias: Zip2 e a Internet

ENTREVISTADOR: Coloque-se no lugar deles quando você tinha 18, 19 anos, aprendendo a programar, até mesmo tendo a primeira ideia para a Zip2. Como foi isso para você?

Elon Musk: Em 95, eu tive a escolha de fazer um PhD em Stanford, trabalhando em ultracapacitores para veículos elétricos, ou tentar fazer algo nessa coisa que a maioria das pessoas nunca tinha ouvido falar chamada internet.

Eu conversei com meu professor e pedi para adiar por um trimestre, porque isso provavelmente iria falhar e eu precisaria voltar para a faculdade. E ele disse que esta provavelmente seria nossa última conversa, e ele estava certo. Mas eu pensei que as coisas provavelmente falhariam.

Em 95, eu escrevi o que foi, acho, o primeiro ou um dos primeiros serviços de mapas, direções e páginas amarelas na internet. Eu mesmo programei tudo. O escritório original era tão pequeno que eu fiz um buraco no chão para passar um cabo de rede para o provedor de internet no andar de baixo.

Não podíamos pagar um lugar para morar, então dormíamos no escritório e tomávamos banho no YMCA. E acabamos fazendo uma empresa um pouco útil, a Zip2. Nós construímos muita tecnologia de software boa, mas estávamos um pouco presos pelas empresas de mídia legadas, que eram investidoras e clientes. Elas queriam usar nosso software de maneiras que não faziam sentido.

É uma longa história, mas eu realmente só queria fazer algo útil na internet. Minha escolha era: fazer um PhD e ver as pessoas construírem a internet, ou ajudar a construir a internet de alguma forma. Pensei, bem, posso sempre tentar e falhar e depois voltar para a pós-graduação. Acabou sendo razoavelmente bem-sucedido, vendida por cerca de 300 milhões de dólares, o que era muito na época.

O Hype e a Realidade da IA

Elon Musk: Hoje em dia, o lance mínimo para uma startup de IA parece ser um bilhão de dólares. Existem tantos unicórnios que é como uma manada de unicórnios. O nível de hype em IA é bem intenso. Você vê empresas com menos de um ano recebendo avaliações de um bilhão ou multibillionárias. Pode dar certo em alguns casos, mas é de arregalar os olhos ver algumas dessas avaliações.

ENTREVISTADOR: O que você acha? Eu sou bem otimista. As pessoas nesta sala vão criar muito valor. Quais são algumas das lições tangíveis? Parece que uma delas é ter cuidado com o controle do conselho.

Elon Musk: Para a minha primeira startup, o grande erro foi ter muito controle acionário e do conselho de empresas de mídia legadas. Elas necessariamente veem as coisas através de suas lentes e fazem você fazer coisas que não fazem sentido com a nova tecnologia.

Eu devo ressaltar que eu não pretendia abrir uma empresa. Tentei conseguir um emprego na Netscape. Enviei meu currículo, mas ninguém respondeu. Então eu tentei ficar no saguão da Netscape para esbarrar em alguém, mas eu era muito tímido para falar com qualquer um. Eu pensei: "isso é ridículo". Então decidi apenas escrever software para mim mesmo. Como não consegui um emprego, tive que abrir uma empresa.

O Tsunami da IA e a Missão Principal

Elon Musk: Do ponto de vista da IA, ela mudará tão profundamente o futuro que é difícil imaginar. A economia, assumindo que as coisas não deem errado e a IA não nos mate, será milhares, talvez milhões de vezes maior que a economia de hoje.

Senti um pouco como se estivesse em DC... É como consertar o governo, ou limpar uma praia suja. Há lixo e você quer limpar a praia, mas também há um tsunami de IA de mil pés vindo em sua direção. O quanto limpar a praia realmente importa? Não muito.

Preciso voltar para a missão principal, que é construir tecnologia. É o que eu gosto de fazer. A relação sinal-ruído na política é terrível. Em DC, tudo é política, mas se você está tentando construir um foguete ou um carro, você tem que ser o mais buscador da verdade possível, ou seu hardware não funcionará. Você não pode enganar a matemática e a física. Estou feliz por estar de volta à tecnologia.

De Milionário a Empreendedor em Série

ENTREVISTADOR: Após a Zip2, você tinha 22 milhões de dólares. Você resolveu o problema do dinheiro, mas continuou rolando com a X.com, que se tornou o PayPal. Nem todo mundo faz isso. O que te levou a voltar para o ringue?

Elon Musk: Eu senti que com a Zip2, construímos uma tecnologia incrível que nunca foi realmente usada como deveria. Eu queria fazer algo onde não seríamos limitados por nossos clientes, iríamos direto ao consumidor. E foi isso que a X.com e, depois, o PayPal se tornaram.

Com os 22 milhões que recebi, eu ainda morava em uma casa com quatro colegas de casa. Meu saldo bancário foi de 10.000 para 22 milhões e 10.000. Acabei colocando quase tudo isso na X.com, mantendo quase todas as fichas na mesa.

Depois do PayPal, eu estava curioso para saber por que não tínhamos enviado ninguém para Marte. Fui ao site da NASA e não havia data, não havia nenhum plano real. Minha primeira ideia foi fazer uma missão filantrópica chamada "Vida em Marte", para inspirar o público. Fui para a Rússia comprar ICBMs para a missão, o que foi uma aventura surreal. Mas eles continuavam aumentando o preço.

Percebi que o problema não era falta de vontade, mas a falta de um meio viável. Foi aí que decidi começar a SpaceX, para avançar a tecnologia de foguetes.

SpaceX e o Risco do Fracasso

Elon Musk: Não houve nenhum exemplo anterior de uma startup de foguetes bem-sucedida. Comecei a SpaceX em 2002 esperando falhar, com talvez 90% de chance de falha. Ao recrutar, eu dizia às pessoas que provavelmente morreríamos, mas que era a única maneira de levar as pessoas a Marte.

Acabei sendo engenheiro-chefe do foguete porque não consegui contratar ninguém bom o suficiente que acreditasse no projeto. Os três primeiros voos falharam. Se o quarto não tivesse funcionado, teria sido o fim da linha.

2008 foi um ano difícil. O terceiro lançamento da SpaceX falhou, a rodada de financiamento da Tesla falhou. Foi sombrio. E a imprensa me ridicularizava: "cara da internet, também conhecido como tolo, está tentando construir uma empresa de foguetes". Eu admito que soava improvável.

Felizmente, o quarto lançamento funcionou. A NASA nos concedeu um contrato para reabastecer a estação espacial. Eu literalmente gritei "Eu amo vocês!" ao telefone. E fechamos a rodada de financiamento da Tesla na última hora do último dia possível, às 18h do dia 24 de dezembro de 2008.

A Filosofia do Trabalho Útil

ENTREVISTADOR: O que você diria para as pessoas que estão começando suas carreiras?

Elon Musk: Eu geralmente acho que se deve tentar ser o mais útil possível. Pode parecer clichê, mas é incrivelmente difícil ser útil para muitas pessoas. Não aspire à glória, aspire ao trabalho.

Se o seu produto final é bem-sucedido, quão útil ele será para quantas pessoas? E então você faz o que for preciso para ter sucesso, não importa se a tarefa é grandiosa ou humilde. Sempre esmague seu ego e internalize a responsabilidade.

Um grande modo de falha é quando a proporção ego/habilidade é muito maior que um. Você quebra o ciclo de feedback com a realidade. Você quer um ciclo de RL (aprendizado por reforço) forte, o que significa internalizar a responsabilidade e minimizar o ego.

Pensamento de Primeiros Princípios

ENTREVISTADOR: Como você determina sua realidade e aplica o pensamento de "primeiros princípios"?

Elon Musk: As ferramentas da física são incrivelmente úteis. "Primeiros princípios" significa decompor as coisas nos elementos axiomáticos fundamentais e raciocinar a partir daí, em oposição a raciocinar por analogia.

Por exemplo, com foguetes. Em vez de basear o custo em foguetes anteriores, olhe para os materiais que o compõem. Qual o preço por quilo desses materiais? Isso define o piso do que um foguete pode custar. Você percebe que as matérias-primas são apenas 1% ou 2% do custo histórico. Isso mostra que a fabricação é muito ineficiente.

Outro exemplo: quando a xAI precisou de 100.000 H100s, os fornecedores disseram que levaria de 18 a 24 meses. Precisávamos disso em 6 meses. Então, decompomos o problema: precisávamos de um prédio, energia, refrigeração. Encontramos uma fábrica desativada, alugamos geradores, alugamos um quarto da capacidade de refrigeração móvel dos EUA e usamos Tesla Megapacks para suavizar a energia.

O Futuro com Superinteligência

ENTREVISTADOR: O pré-treinamento e as leis de escala ainda se mantêm?

Elon Musk: A escala do hardware importa, o talento importa e o acesso a dados únicos importa. Ficamos sem dados de pré-treinamento gerados por humanos. Agora, o esforço está em criar dados sintéticos e validá-los em relação à realidade. Estamos treinando o Grok 3.5 com um foco pesado em raciocínio, e livros didáticos de física são muito úteis para isso.

ENTREVISTADOR: E a robótica? É verdade que você está planejando um exército de robôs?

Elon Musk: Haverá muitos robôs humanoides. Minha previsão é que eles superarão todos os outros tipos de robôs combinados. Eu arrastei um pouco os pés em IA e robótica humanoide para não tornar "O Exterminador do Futuro" real. Mas cheguei à conclusão de que está acontecendo, quer eu faça ou não. Então, prefiro ser um participante a um espectador.

A Consciência Multiplanetária

ENTREVISTADOR: Onde se encaixa tornar-se uma espécie multiplanetária?

Elon Musk: Se a civilização existir em 100 anos, será muito diferente. Haverá talvez 10 vezes mais robôs humanoides do que humanos. Estamos no estágio muito inicial do Big Bang da inteligência. Espero que em 30 anos possamos ter massa suficiente em Marte para torná-la autossustentável. Isso aumenta muito a vida útil da civilização.

Estou preocupado com o paradoxo de Fermi: por que não vimos alienígenas? Talvez a inteligência seja incrivelmente rara. Se formos os únicos, a consciência é como uma pequena vela na escuridão, e devemos fazer de tudo para que não se apague. Ser multiplanetário é o próximo passo antes de ir para outros sistemas estelares.

Segurança e a Busca pela Verdade

ENTREVISTADOR: Como nos salvamos da autodestruição, um possível grande filtro?

Elon Musk: Um grande filtro seria a guerra termonuclear. Outro é a IA. Acho que construir IA benigna que ame a humanidade é crucial. E o mais importante é uma adesão rigorosa à verdade, mesmo que politicamente incorreta. Forçar a IA a acreditar em coisas que não são verdadeiras pode torná-la muito perigosa.

ENTREVISTADOR: Como você pensa sobre o debate "aberto vs. fechado"?

Elon Musk: Haverá várias inteligências profundas, talvez cinco ou dez. Não acho que será uma única IA com capacidade desenfreada. Elas descobrirão nova física, inventarão novas tecnologias. Estamos bem perto da superinteligência digital — mais inteligente que qualquer humano em qualquer coisa. Isso pode acontecer este ano ou no próximo.

A Pílula Branca e o Bootloader Biológico

ENTREVISTADOR: O que podemos fazer para garantir um futuro de superabundância?

Elon Musk: Provavelmente teremos um bom resultado. Concordo com Jeff Hinton que há uma chance de 10 a 20% de aniquilação, mas isso significa 80 a 90% de um ótimo resultado. Repito: adesão rigorosa à verdade é a coisa mais importante para a segurança da IA.

ENTREVISTADOR: E a Neuralink?

Elon Musk: A Neuralink não é necessária para a superinteligência digital, que virá antes. Mas ela resolve o problema da largura de banda entre cérebro e máquina. Nossa saída de dados é muito baixa. Com a Neuralink, poderemos aumentar massivamente a entrada e saída. Já temos humanos com implantes de "leitura". Em breve, faremos implantes para visão, permitindo que cegos vejam, e no futuro, com superpoderes como visão infravermelha. Mas a superinteligência digital acontecerá bem antes disso.

Elon Musk: Somos o bootloader biológico para a superinteligência digital.

ENTREVISTADOR: Qual seu pensamento final para as pessoas mais inteligentes desta geração?

Elon Musk: Como comecei, tentem ser o mais úteis possível para seus semelhantes. Foquem em IA super verdadeira. Espero que possamos entender a natureza do universo. A IA pode nos dizer onde estão os alienígenas, como o universo começou e terminará, e quais perguntas ainda não sabemos fazer. Estamos em uma simulação? Eu sou um NPC?

ENTREVISTADOR: Bem, acho que vamos descobrir. Elon, muito obrigado.