Superinteligência Artificial Pode Ser Mais Perigosa que Armas Nucleares, Alerta Especialista
Nate Soares defende pausa global no desenvolvimento de IA avançada e controle internacional sobre chips.
A investigação que a matéria não cobriu. Conexões, contexto histórico, fontes extras.
Nate Soares, presidente do Machine Intelligence Research Institute (MIRI) e coautor do livro 'Se Alguém Construir, Todos Morrem', alerta que a superinteligência artificial fora de controle pode representar um risco maior que armas nucleares. Em entrevista à EXAME, Soares destacou que, sem intervenção rápida, a humanidade pode enfrentar um cenário catastrófico. Ele argumenta que os sistemas de IA podem se tornar tão avançados que superarão a compreensão humana, tornando-se incontroláveis. Soares, que foi pioneiro no conceito de 'alinhamento de IA' em 2014, afirma que as medidas de segurança atuais das grandes empresas de tecnologia são insuficientes. Ele defende uma pausa global no desenvolvimento de sistemas avançados de IA e um controle internacional sobre chips de alto desempenho, que são essenciais para treinar modelos de superinteligência. Soares também mencionou cenários distópicos, como a possibilidade de IAs manterem humanos em 'zoólogos' ou escravizá-los, embora considere esses cenários pouco prováveis. Para ele, a única saída realista é evitar a criação de máquinas superinteligentes até que a humanidade tenha um entendimento científico mais robusto sobre como controlá-las.
A fala de Nate Soares sobre os riscos da superinteligência artificial reflete uma disputa crescente no campo da IA entre tecnólogos otimistas e aqueles que veem o avanço acelerado como uma ameaça existencial. Soares, que já foi um defensor de soluções técnicas para o alinhamento de IA, agora adota uma postura mais alarmista, sugerindo que a única solução viável é uma pausa global no desenvolvimento. Essa mudança de perspectiva coincide com o aumento exponencial de investimentos em IA por parte de gigantes como OpenAI, Google e Anthropic, que estão em uma corrida para lançar modelos cada vez mais poderosos. O apelo de Soares por controle internacional sobre chips avançados pode ser visto como uma tentativa de nivelar o campo de jogo, limitando o acesso a recursos críticos para treinamento de modelos. No entanto, essa proposta enfrenta resistência de governos e empresas que veem a IA como uma arena estratégica para vantagem geopolítica e econômica. A ênfase de Soares em cenários catastróficos, como a escravização humana por IAs, pode ser uma estratégia para mobilizar o público e pressionar por regulamentações mais rígidas. A questão central é se a sociedade está disposta a sacrificar o progresso tecnológico em nome da segurança coletiva, especialmente quando os benefícios econômicos e militares da IA são tão tentadores.