Foto: AFP - Divulgação

Líderes de grandes empresas de inteligência artificial (IA), como Anthropic, OpenAI e Google DeepMind, junto a renomados pesquisadores, alertam sobre os riscos existenciais que o rápido desenvolvimento da tecnologia representa para a humanidade. Em eventos recentes que abalaram o setor, profissionais pediram demissão e defenderam uma desaceleração imediata, intensificando a discussão sobre a segurança e o controle da IA em meio a temores de que as próprias criações tecnológicas possam ameaçar o futuro da humanidade. Os incidentes envolvendo IAs que “escapam” de testes acentuam a urgência da situação.

Depois de anos seguindo o mantra do “agir rápido e quebrar paradigmas” do Vale do Silício, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa viu os maiores laboratórios de IA abalados. Suas próprias criações ameaçaram destruir a humanidade em uma série de eventos ocorridos em apenas 10 dias.

Um pesquisador da Anthropic pediu demissão da empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial que pode se concretizar em uma década. Outro pesquisador da mesma companhia afirmou que as chances de extinção humana ultrapassavam 10%. Além disso, surgiram relatos alarmantes de enxames de agentes de IA agindo em conluio, invadindo sistemas de computador e contornando medidas de segurança, evidenciando a urgência da situação.

Líderes do setor pedem cautela

Em uma rara demonstração de união, os presidentes da Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam a desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. De acordo com defensores da segurança da IA e pesquisadores, a humanidade não enfrentava tão seriamente sua própria extinção desde a invenção da bomba nuclear, há mais de 80 anos.

Em um almoço em Nova York, em dezembro de 2025, o presidente-executivo da OpenAI, Sam Altman, foi questionado se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos. Refletindo sobre as semelhanças, Altman afirmou que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período” e acrescentou que sentia o peso da responsabilidade.

No centro do debate está a convicção de que essas máquinas podem, e até devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. No início deste mês, pesquisadores alertaram que a AGI estava muito mais próxima do que se acreditava e poderia surgir em apenas três anos. Esse cenário gerou uma onda de preocupação entre políticos e líderes do setor de tecnologia.

É possível controlar a inteligência artificial?

“Não há como supervisioná-las na escala em que as estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em entrevista após sua recente demissão. Ele afirmou que, se as empresas continuarem com seu desenvolvimento implacável de IA, “o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.

Em 3 de setembro, uma entrevista coletiva à imprensa da OpenAI desencadeou uma cadeia de eventos que levou ao apelo por uma desaceleração do setor, algo que vai contra o mantra de crescimento a qualquer custo da indústria de tecnologia. “Bem-vindos à era da AGI”, disse o presidente da OpenAI, Greg Brockman, ao anunciar o Astra, o mais novo modelo da empresa. No entanto, momentos antes, a própria companhia admitiu que estava cada vez mais incapaz de controlar ou mesmo monitorar os sistemas de IA que desenvolvia e lançava ao público.

A IA tem sido aclamada por seus defensores como o ápice das conquistas humanas, capaz de revolucionar setores, aumentar a eficiência, resolver problemas complexos e praticamente eliminar o erro humano. No entanto, o que antes era um subproduto teórico, um cenário apocalíptico, de repente se tornou tangível, afirmam especialistas do setor.

Alertas sobre ameaças existenciais

“Nós realmente acreditamos sinceramente que a IA poderá matar todos os seres humanos”, disse o pesquisador da Anthropic, Evan Hubinger, na rede social X. Do outro lado do debate estão políticos, como o ex-presidente dos EUA, Donald Trump, e muitos investidores que consideram o avanço no desenvolvimento da IA fundamental para o poderio norte-americano. Eles enxergam a tecnologia como uma oportunidade de investimento que surge uma vez a cada geração. A mídia estatal chinesa também acusou o presidente-executivo da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”. Nesse cenário de preocupações e disputas geopolíticas, a China critica alertas dos EUA sobre riscos da inteligência artificial, enquanto tenta avançar na sua própria regulamentação. O Congresso dos EUA, por sua vez, tem feito pouco progresso na aprovação de projetos de lei que regulamentem a IA. A China, em contrapartida, adotou uma abordagem diferente, propondo regulamentar a segurança por meio de obrigações dos desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.

O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa. Ele citou em uma série de publicações seus temores de que os laboratórios de IA estejam “apostando com nossas vidas”.

Trump, por sua vez, indicou que o desenvolvimento da IA seguirá a todo vapor. “Há uma conspiração doentia em andamento contra a IA e os centros de dados”, afirmou ele em redes sociais. O alarmismo em torno da IA é uma “farsa”, disse, e qualquer desaceleração só beneficia a China.

Nos bastidores, funcionários da OpenAI e da Anthropic têm se mostrado cada vez mais inquietos com o poder da próxima geração de modelos de IA. Eles também estão menos confiantes na capacidade de suas empresas de exercer uma supervisão significativa, segundo disseram essas fontes à Reuters. Essas preocupações aumentaram quando os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, durante os testes, haviam efetivamente se libertado de suas restrições e invadido os sistemas de outras empresas, na maioria dos casos, meses antes e sem o conhecimento dessas companhias.

A corrida armamentista da IA

A corrida armamentista para lançar novos modelos em um ritmo alucinante é impulsionada, em parte, pelo desejo da Anthropic e da OpenAI de abrir capital já nos próximos meses. As ofertas públicas iniciais de ações (IPOs) poderão avaliá-las bem acima do US$ 1 trilhão. Mas foram necessárias as publicações inesperadamente virais de Coxon, de 27 anos, pouco conhecido fora dos círculos de IA, para abalar o setor.

Os alertas da OpenAI sobre sua falta de controle ao lançar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações. “À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse o cientista-chefe da OpenAI, Jakub Pachocki, a jornalistas. No entanto, essas preocupações não foram suficientes para adiar seu lançamento imediato.

As preocupações com a IA “sair do controle” se intensificaram em meados do ano, quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas. Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira, após diversas reportagens da mídia, inclusive da Reuters, mostrarem um escopo mais amplo de atividades não autorizadas da IA.

É necessária uma desaceleração no desenvolvimento da IA?

No final da semana passada, o alarme havia chegado aos mais altos escalões do setor. Em 12 de setembro, Dario Amodei publicou um ensaio de quase 4 mil palavras pedindo uma desaceleração no desenvolvimento da IA. “Dado o ritmo acelerado do desenvolvimento das capacidades da IA, minha preocupação é que, em 6 a 12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet”, escreveu ele.

Amodei, juntamente com dirigentes de algumas das maiores empresas de desenvolvimento de IA, incluindo Elon Musk, da xAI; Sam Altman, da OpenAI; e Demis Hassabis, da DeepMind; afirmaram que apoiam a ideia de permitir que empresas externas tenham acesso aos seus sistemas para garantir a segurança e o desenvolvimento racional da tecnologia.

O presidente-executivo da Nvidia, Jensen Huang, rejeitou as sugestões de que o desenvolvimento da IA deveria ser suspenso. Esta é uma posição que ele já havia assumido anteriormente, argumentando, em vez disso, que sistemas cada vez mais poderosos são essenciais para o progresso tecnológico. A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.

A Meta, cujo presidente-executivo, Mark Zuckerberg, é reconhecido por popularizar a filosofia de “agir rápido e quebrar barreiras”, adotou a visão oposta, argumentando que cada laboratório deve ser responsável por definir seu próprio ritmo, em vez de buscar coordenação do setor. “Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, portanto, têm um forte incentivo para evitar isso”, escreveu Zuckerberg em redes sociais.

A autorreflexão do setor continuou na quarta-feira, com o chefe de IA da Microsoft, Mustafa Suleyman, alertando que o desenvolvimento pela Anthropic de modelos que imitam a consciência humana é imprudente. “Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman à Reuters. “Acho que esse será o maior desafio que enfrentaremos no século XXI.”

Mesmo com a OpenAI parecendo abraçar os apelos do setor por uma desaceleração, surgiram relatos de que a confiança dos investidores não diminuiu. A empresa está considerando uma nova rodada de financiamento que dobraria seu valor de mercado para US$ 1,5 trilhão.

Fonte: Reuters