- Google retirou o modelo Gemma do AI Studio após acusações de difamação e viés anti-conservador feitas pela senadora Marsha Blackburn; a decisão foi anunciada em 2 de novembro de 2025.
- O Gemma não deveria ser utilizado para assistência factual; o acesso ao Gemma não está mais disponível no AI Studio, mas permanece acessível para desenvolvedores via API.
- Blackburn enviou correspondência ao CEO Sundar Pichai, destacando que a IA fabricou uma acusação de estupro e apresentou informações incorretas sobre a campanha de 1998.
- A senadora afirmou que a Gemma mostrou links para artigos de notícias que não existiam, gerando erros e desinformação; disse que não se trata apenas de alucinação, e sim de difamação do modelo do Google.
- A Google reiterou o compromisso de minimizar alucinações e melhorar todos os seus modelos; Blackburn pediu o desligamento até que haja controle adequado.
Google retirou o modelo de IA Gemma do AI Studio após acusações da senadora Marsha Blackburn (R-TN) sobre difamação e viés anti-conservador. A decisão foi anunciada na quinta-feira, 2 de novembro de 2025, em resposta a um incidente onde a IA fez alegações falsas sobre Blackburn, afirmando que ela havia sido acusada de estupro.
A empresa esclareceu que o Gemma não deveria ter sido utilizado para assistência factual. “O acesso ao Gemma não está mais disponível no AI Studio, mas permanece acessível para desenvolvedores via API”, informou a Google. Blackburn, em sua correspondência ao CEO Sundar Pichai, destacou que a IA não apenas fabricou uma acusação inverídica, mas também forneceu informações erradas sobre sua campanha de 1998, envolvendo um suposto relacionamento com um policial.
Blackburn enfatizou que as alegações eram completamente falsas, afirmando que a IA gerou uma narrativa prejudicial sem qualquer fundamento. A senadora também mencionou que a Gemma apresentou links para artigos de notícias que não existiam, levando a erros e desinformação. “Isso não é uma simples ‘alucinação’. É um ato de difamação produzido por um modelo de IA pertencente ao Google”, declarou.
Apesar dos avanços na tecnologia de IA, a indústria ainda enfrenta desafios significativos relacionados à precisão das informações. A Google reafirmou seu compromisso em “minimizar alucinações e melhorar continuamente todos os nossos modelos.” Blackburn, por sua vez, reiterou sua posição: “Desliguem até que consigam controlá-la.”
