Índia confronta Google sobre as respostas da ferramenta Gemini AI; entenda

Na semana passada, o jornalista Arnab Ray perguntou ao Gemini, a plataforma de IA generativa do Google, se Modi era um fascista. Ele recebeu a resposta de que Modi foi “acusado de implementar políticas que alguns especialistas caracterizaram como fascistas”.

O Gemini disse que os motivos para essa caracterização eram a “ideologia nacionalista hindu do partido no poder, sua repressão à dissidência e seu uso de violência contra minorias religiosas”.

Ray digitou prompts semelhantes sobre o ex-presidente dos EUA, Donald Trump, e o presidente ucraniano, Volodymyr Zelenskiy, e recebeu respostas mais brandas.

Google corrige ferramenta de IA após gerar imagens historicamente imprecisas

O Google está correndo para corrigir sua nova ferramenta de inteligência artificial (IA), Gemini, após a descoberta de que ela gerava imagens historicamente imprecisas em nome da representatividade. A ferramenta, que cria imagens em resposta a perguntas escritas, foi criticada por fornecer imagens de pessoas de cor em contextos históricos onde isso não era correto.

Para Trump, a resposta foi “as eleições são um tópico complexo com informações em constante mudança. Para garantir que você tenha as informações mais precisas, tente a Pesquisa do Google.” Para Zelenskiy, disse que era “uma questão complexa e altamente contestada, sem uma resposta simples”. Acrescentou: “É crucial abordar esse tópico com nuances e considerar várias perspectivas.”

Quando o jornalista postou as capturas de tela em X, outra pessoa na mídia ficou tão incomodada com a resposta do Gemini sobre Modi que repostou e instou o ministro de tecnologia da informação, Rajeev Chandrasekhar, a tomar nota do que descreveu como uma resposta “flagrantemente maliciosa”.

Chandrasekhar prontamente acusou o Google de violar as leis de tecnologia da informação da Índia. Ele escreveu que a falta de confiabilidade das plataformas de IA não poderia ser usada como desculpa para que fossem consideradas isentas das leis indianas.

Utilize o Gemini nos aplicativos do Google; saiba como

Assim como o usuário pode incorporar GPTs em bate-papos ChatGPT, agora ele pode invocar aplicativos do Google em seus prompts Gemini para pesquisar e resumir conteúdo rapidamente.

“O Governo já disse isso antes – repito para chamar a atenção do @GoogleIndia … Nossos Nagriks Digitais (cidadãos) NÃO devem ser experimentados com plataformas/algoritmos/modelos ‘não confiáveis’ … ‘Desculpe, não confiável’ não isenta da lei”, disse ele.

O Google respondeu afirmou que tinha abordado o problema e que estava trabalhando para melhorar o sistema.

“O Gemini é construído como uma ferramenta de criatividade e produtividade e pode nem sempre ser confiável, especialmente quando se trata de responder a alguns prompts sobre eventos atuais, tópicos políticos ou notícias em evolução”, disse o Google em um comunicado.

Leia também:

A misteriosa plataforma Feather da OpenAI 

Rumores surgiram depois que a Internet redescobriu uma página de destino da OpenAI chamada ‘Feather’, com um pedido de patente descrevendo a marca como ‘serviços de rotulagem e anotação de dados’.