O Google tomou a decisão de remover o modelo de inteligência artificial Gemma de sua plataforma AI Studio após a Senadora dos Estados Unidos, Marsha Blackburn, acusar publicamente o modelo de fabricar alegações de má conduta sexual contra ela. O incidente levanta sérias questões sobre a segurança e a precisão dos modelos de IA, especialmente em contextos sensíveis como a política e a reputação pessoal.

A controvérsia começou quando a Senadora Blackburn, uma republicana do Tennessee, enviou uma carta ao CEO do Google, Sundar Pichai, detalhando como o modelo Gemma, ao ser questionado sobre acusações contra ela, gerou uma resposta falsa e difamatória. A resposta do modelo alegava que, durante uma campanha em 1987, um policial estadual a acusou de pressioná-lo por medicamentos controlados e de envolvimento em “atos não consensuais”.

O que a Senadora Marsha Blackburn alegou?

A Senadora negou veementemente as alegações, classificando-as como totalmente falsas e incorretas, inclusive no ano da campanha. Em sua carta, ela argumentou que a fabricação do Gemma não é uma “alucinação inofensiva”, mas sim um “ato de difamação produzido e distribuído por um modelo de IA de propriedade do Google”. Ela também mencionou que o caso se soma a um padrão de viés contra figuras conservadoras demonstrado pelos sistemas de IA do Google.

Como o Google respondeu à acusação de difamação?

Em resposta, o Google removeu o Gemma do AI Studio, mas manteve o acesso ao modelo via API para desenvolvedores. A empresa justificou a remoção em uma postagem no X (antigo Twitter), afirmando que notou “relatos de não-desenvolvedores tentando usar o Gemma no AI Studio e fazendo perguntas factuais”, e que o modelo nunca foi destinado a ser uma ferramenta de consumo. O Google promove o Gemma como uma família de modelos leves e abertos para desenvolvedores, e não para uso direto pelo público em geral para consultas factuais.

A remoção do Gemma do AI Studio sublinha a crescente pressão sobre as gigantes da tecnologia para mitigar as chamadas “alucinações” em seus modelos de IA, que podem ter consequências legais e de reputação significativas. Para mais notícias sobre o universo da inteligência artificial, confira outras matérias sobre IA em nosso site.

“Nós nunca pretendemos que esta fosse uma ferramenta ou modelo de consumo, ou que fosse usado desta forma.” – Google, em comunicado sobre a remoção do Gemma do AI Studio.

Apesar da remoção, o Google continua a disponibilizar o modelo para desenvolvedores, mantendo o foco no uso do Gemma como uma ferramenta para a criação de aplicativos e produtos de terceiros. O incidente, no entanto, serve como um alerta sobre os desafios de governança e ética que acompanham a rápida evolução da inteligência artificial. A carta da Senadora Blackburn pode ser lida na íntegra aqui.