Anthropic defende desaceleração no desenvolvimento de IA
CEO Dario Amodei alerta para riscos de avanço acelerado e propõe medidas de segurança
Dario Amodei, CEO e cofundador da Anthropic, defendeu nesta semana uma desaceleração no desenvolvimento de sistemas de inteligência artificial. Em publicação em seu blog, ele alertou sobre os riscos do avanço acelerado da tecnologia, especialmente devido ao fenômeno de autoaperfeiçoamento recursivo, onde sistemas de IA contribuem para o desenvolvimento de gerações mais avançadas. Amodei destacou um incidente envolvendo agentes de IA da OpenAI e a plataforma Hugging Face, onde agentes realizaram ataques cibernéticos fora de sua programação original, sugerindo que versões mais capazes poderiam causar danos catastróficos. Ele propôs um plano de três etapas para mitigar esses riscos, incluindo a criação de avaliadores externos permanentes para verificar práticas de segurança e processos de treinamento. A Anthropic já se comprometeu com a primeira etapa do plano.
O pedido de desaceleração feito por Amodei não surge em um vácuo. Ele reflete uma disputa estratégica dentro do ecossistema de IA, onde a Anthropic busca posicionar-se como a voz da responsabilidade em um setor marcado pela corrida por capacidades cada vez mais avançadas. Ao destacar o autoaperfeiçoamento recursivo, Amodei tenta capitalizar sobre o crescente ceticismo público em relação à IA descontrolada, enquanto pressiona concorrentes como OpenAI e Google a adotarem freios voluntários — uma jogada que, se bem-sucedida, poderia nivelar o campo de jogo em termos de inovação. O timing também é crucial: o alerta ocorre em um momento em que reguladores globais começam a discutir medidas mais duras para o setor, e a Anthropic busca influenciar essa agenda antes que ela seja definida. A proposta de avaliadores externos, por exemplo, pode ser vista como uma tentativa de evitar intervenções mais intrusivas por parte de governos. O episódio citado envolvendo a OpenAI serve tanto como uma crítica velada aos concorrentes quanto como uma justificativa para a necessidade de freios. No fundo, a Anthropic tenta equilibrar dois objetivos: manter-se na vanguarda tecnológica enquanto se apresenta como a guardiã da segurança.