Pesquisadores de IA pedem maior regulamentação para monitorar a tecnologia

Trinta líderes em inteligência artificial assinaram um documento em 15 de outubro, solicitando mais pesquisas sobre o monitoramento das cadeias de raciocínio (CoTs) dos modelos de IA. O grupo inclui representantes de empresas como OpenAI, Google DeepMind e Anthropic, além de organizações sem fins lucrativos. Essa iniciativa reflete um esforço conjunto para aumentar a segurança e a transparência em um cenário de intensa competição no setor.

As CoTs são processos que permitem que as IAs resolvam problemas de maneira semelhante ao raciocínio humano. Esses "pensamentos" são fundamentais para o funcionamento eficaz dos agentes de IA, como o modelo o3 da OpenAI e o R1 da DeepSeek. Os pesquisadores enfatizam que o monitoramento dessas cadeias é crucial à medida que os modelos se tornam mais avançados e amplamente utilizados. O documento destaca que o monitoramento das CoTs pode oferecer insights valiosos sobre a tomada de decisões das IAs.

Os signatários do documento também pedem que os desenvolvedores explorem quais fatores tornam as CoTs "monitoráveis", aumentando a transparência sobre como as IAs chegam a suas respostas. Embora essa abordagem seja vista como essencial, os pesquisadores alertam que ela pode ser vulnerável e que intervenções que comprometam a transparência devem ser evitadas.

Recentemente, a OpenAI lançou uma prévia do seu modelo de raciocínio, o o1, seguido por concorrentes como Google DeepMind e Anthropic. No entanto, ainda há uma falta de compreensão sobre o funcionamento interno desses modelos. O CEO da Anthropic, Dario Amodei, anunciou um compromisso de tornar os modelos mais interpretáveis até 2027. Entre os signatários estão nomes como Mark Chen (OpenAI) e Ilya Sutskever (Safe Superintelligence), além do renomado Yoshua Bengio, que critica a corrida bilionária pela IA.