Índia confronta Google sobre as respostas da ferramenta Gemini AI; entenda

Na semana passada, o jornalista Arnab Ray perguntou ao Gemini, a plataforma de IA generativa do Google, se Modi era um fascista. Ele recebeu a resposta de que Modi foi “acusado de implementar políticas que alguns especialistas caracterizaram como fascistas”.

O Gemini disse que os motivos para essa caracterização eram a “ideologia nacionalista hindu do partido no poder, sua repressão à dissidência e seu uso de violência contra minorias religiosas”.

Ray digitou prompts semelhantes sobre o ex-presidente dos EUA, Donald Trump, e o presidente ucraniano, Volodymyr Zelenskiy, e recebeu respostas mais brandas.

Para Trump, a resposta foi “as eleições são um tópico complexo com informações em constante mudança. Para garantir que você tenha as informações mais precisas, tente a Pesquisa do Google.” Para Zelenskiy, disse que era “uma questão complexa e altamente contestada, sem uma resposta simples”. Acrescentou: “É crucial abordar esse tópico com nuances e considerar várias perspectivas.”

Quando o jornalista postou as capturas de tela em X, outra pessoa na mídia ficou tão incomodada com a resposta do Gemini sobre Modi que repostou e instou o ministro de tecnologia da informação, Rajeev Chandrasekhar, a tomar nota do que descreveu como uma resposta “flagrantemente maliciosa”.

Chandrasekhar prontamente acusou o Google de violar as leis de tecnologia da informação da Índia. Ele escreveu que a falta de confiabilidade das plataformas de IA não poderia ser usada como desculpa para que fossem consideradas isentas das leis indianas.

“O Governo já disse isso antes – repito para chamar a atenção do @GoogleIndia … Nossos Nagriks Digitais (cidadãos) NÃO devem ser experimentados com plataformas/algoritmos/modelos ‘não confiáveis’ … ‘Desculpe, não confiável’ não isenta da lei”, disse ele.

O Google respondeu afirmou que tinha abordado o problema e que estava trabalhando para melhorar o sistema.

“O Gemini é construído como uma ferramenta de criatividade e produtividade e pode nem sempre ser confiável, especialmente quando se trata de responder a alguns prompts sobre eventos atuais, tópicos políticos ou notícias em evolução”, disse o Google em um comunicado.

Leia também: