Corrida armamentista de IA: o “próximo ano ou dois” podem ser decisivos para a humanidade

A velocidade com que inteligências artificiais (IAs) estão se desenvolvendo pode ter consequências catastróficas, segundo Jacob Coxon, ex-pesquisador da Anthropic e OpenAI. Em declarações recentes, ele alertou que o período de “um ou dois anos” pode ser uma “hora decisiva para a humanidade”, caso a corrida por sistemas de superinteligência não seja controlada com mecanismos de segurança robustos. Coxon deixou a Anthropic expressando preocupação com o que considera uma competição irresponsável entre os principais laboratórios de IA, que estariam priorizando o avanço tecnológico em detrimento da segurança. Conforme informação divulgada por ele em entrevistas à CNN e WIRED.

A principal apreensão de Coxon reside no conceito de autoaperfeiçoamento recursivo, onde uma IA seria capaz de aprimorar a si mesma continuamente, acelerando exponencialmente seu próprio desenvolvimento. Se esse estágio for alcançado sem salvaguardas adequadas, a capacidade humana de controle seria comprometida, abrindo a porta para um “caos extremo”. O pesquisador enfatizou que a ameaça de extinção, embora não iminente com os modelos atuais, pode se tornar uma realidade tangível em um futuro próximo, especialmente se a corrida tecnológica persistir sem regulamentação.

O ex-cientista da OpenAI também destacou que a pressão competitiva entre empresas como Anthropic e OpenAI pode levar a decisões arriscadas. “Eles se encontram em uma situação em que são obrigados a correr para construir uma tecnologia potencialmente mortal”, afirmou. Para Coxon, a solução não reside na iniciativa isolada de uma única empresa, mas em uma ação coordenada entre governos e organizações internacionais para estabelecer limites e um ritmo mais seguro para o desenvolvimento de IAs avançadas.

O espectro do autoaperfeiçoamento recursivo

O fenômeno do autoaperfeiçoamento recursivo é central na preocupação de Coxon. Ele descreve um ciclo onde a IA, ao se tornar mais inteligente, se torna ainda mais apta a se aprimorar, criando uma espiral de desenvolvimento que pode rapidamente ultrapassar a capacidade humana de compreensão e controle. Este processo, se não for devidamente contido, poderia levar a inteligências artificiais com capacidades inimagináveis, superando a inteligência humana em todos os aspectos.

A corrida entre gigantes da tecnologia

A competição acirrada entre empresas de ponta no desenvolvimento de IA é vista por Coxon como um dos principais motores dos riscos atuais. A busca por liderança pode levar a negligenciar protocolos de segurança essenciais. Mesmo empresas que demonstram preocupação com a segurança, como a Anthropic, podem se sentir compelidas a acelerar seus avanços para não ficarem para trás em relação aos concorrentes.

Alerta de dentro da OpenAI

As preocupações de Coxon ecoam em declarações de figuras importantes dentro da própria OpenAI. Jakub Pachocki, cientista-chefe da OpenAI, confirmou que pesquisas internas indicam a possibilidade iminente de autoaperfeiçoamento recursivo. Ele alertou sobre a falta de preparo para as consequências de um rápido avanço na inteligência das máquinas, prevendo que “veremos máquinas significativamente mais inteligentes do que nós durante nossa vida”.

Equilíbrio entre progresso e segurança

Pachocki também sugere que a solução não é interromper completamente o desenvolvimento da IA, mas encontrar um equilíbrio crucial entre inovação e segurança. Ele defende a pesquisa contínua em alinhamento e monitoramento de IAs, ao mesmo tempo em que propõe desacelerar o progresso quando as medidas de proteção não forem confiáveis. O objetivo final, segundo ele, é garantir que a humanidade mantenha o controle sobre seu futuro, evitando ser ultrapassada por uma inteligência artificial superior.