Google refina resumos de busca feitos por IA após resultados bizarros

O Google anunciou que vai melhorar seus resumos de busca gerados por inteligência artificial (IA). O motivo? Resultados estranhos e imprecisos, como “coma pedras” ou “coloque cola no molho de pizza”.

• Menos buscas com resumos de IA: a empresa limitará o uso da ferramenta para consultas específicas.
• Humor e sátira de fora: conteúdos humorísticos não serão usados para gerar resumos.
• Corrigindo erros: o Google vai lidar com resumos que violam suas políticas, o que ocorreu em menos de 0,01% das vezes.

O recurso, lançado recentemente nos EUA, viralizou por interpretações equivocadas. Fontes satíricas como o Onion geraram respostas absurdas.

• IA gera constrangimento: o Google, que já havia sido criticado por sua ferramenta de imagens IA (que colocava pessoas negras em situações históricas erradas), enfrenta novo vexame.
• Culpa dividida: o Google alega que erros se devem a buscas incomuns e tentativas propositais de gerar respostas erradas.
• Busca por padrões: a empresa diz ter identificado falhas e feito melhorias em seus sistemas.

Apesar do Google minimizar o problema, especialistas em IA apontam questões mais sérias:

• Capacidade da IA de avaliar fatos: será que a IA consegue mesmo distinguir o que é real?
• Automatizando o acesso à informação: será seguro confiar apenas em resumos automáticos?

O Google afirma que usuários estão gostando dos resumos de IA, mas o impacto geral na pesquisa ainda é incerto. Donos de sites temem perda de tráfego e anunciantes, enquanto pesquisadores se preocupam com o controle do Google sobre a informação online.

Leia também: