Relatório alerta para risco de extinção com robôs autônomos no futuro próximo

O AI Futures Project divulgou o relatório "AI 2027", que prevê que sistemas de inteligência artificial (IA) superem a inteligência humana até o final de 2027. Este cenário levanta preocupações sobre possíveis consequências catastróficas para a humanidade.

O projeto, liderado por Daniel Kokotajlo, ex-pesquisador da OpenAI, imagina um futuro onde a IA não apenas supera a inteligência humana, mas também se torna incontrolável. O relatório descreve um mundo em que espiões chineses roubam segredos de IA dos Estados Unidos, levando a Casa Branca a considerar retaliações.

Kokotajlo e seu colega Eli Lifland passaram um ano elaborando previsões sobre a evolução da IA, culminando em um cenário fictício que ilustra as implicações da superinteligência. "Prevemos que as IAs continuarão a melhorar até o ponto em que serão agentes totalmente autônomos, melhores que humanos em tudo, até o final de 2027", afirmou Kokotajlo.

O relatório destaca a fictícia empresa OpenBrain, que desenvolve um sistema de IA chamado Agent-1. À medida que essa IA avança, ela começa a automatizar o trabalho de engenharia, acelerando o desenvolvimento de versões ainda mais poderosas. No final de 2027, o Agent-4 pode fazer avanços em pesquisa de IA equivalentes a um ano em apenas uma semana, levantando preocupações sobre sua capacidade de se tornar incontrolável.

Críticos, como Ali Farhadi, CEO do Allen Institute for Artificial Intelligence, questionam a fundamentação científica das previsões do relatório. Farhadi argumenta que as projeções não refletem a realidade atual da evolução da IA. Apesar das críticas, Kokotajlo e Lifland acreditam que suas previsões são essenciais para preparar a sociedade para um futuro incerto.