IA do Google falha em proteger usuários de sites maliciosos; entenda

No início deste mês, o Google começou a lançar um novo recurso chamado Google Search Generative Experience (SGE) em seus resultados de pesquisa, que fornece resumos rápidos gerados por inteligência artificial para consultas de pesquisa, incluindo recomendações para outros sites relacionados ao assunto pesquisado.

Google's new AI search results promotes sites pushing malware, scams – @mayank_jeehttps://t.co/TI7f9FJvgDhttps://t.co/TI7f9FJvgD

— BleepingComputer (@BleepinComputer) March 25, 2024

Contudo, como a consultora de SEO Lily Ray descobriu, o SGE do Google está recomendando sites maliciosos e com spam em suas respostas de conversação, tornando mais fácil para os usuários caírem em golpes.

OH GOOD.

SGE WILL EVEN RECOMMEND THE SPAM SITES AS PART OF THE ANSWER. pic.twitter.com/wqgFFXqbMB

— Lily Ray 😏 (@lilyraynyc) March 22, 2024

O BleepingComputer descobriu que os sites listados pela SGE tendem a usar o TLD .online, os mesmos modelos HTML e os mesmos sites para realizar redirecionamentos.

Essa semelhança indica que todos fazem parte da mesma campanha de envenenamento de SEO que lhes permitiu fazer parte do índice do Google. Ao clicar no site nos resultados de pesquisa do Google, os visitantes passarão por uma série de redirecionamentos até chegarem a um site fraudulento.

Nos testes realizados, os redirecionamentos geralmente levam você a captchas falsos ou sites do YouTube que tentam enganar o visitante para que se inscreva nas notificações do navegador.

Não está claro como esses sites de baixa qualidade estão entrando nos algoritmos de busca baseados em IA do Google.

No entanto, à medida que a IA se torna uma parte mais significativa da forma como pesquisamos online, torna-se cada vez mais claro que não podemos confiar automaticamente nas informações que estes algoritmos produzem e que devemos verificar os sites antes de os visitar. 

O Google afirmou que atualiza continuamente seus sistemas e algoritmos de classificação para proteção contra spam. No entanto, os “spammers” também desenvolvem suas técnicas para evitar a detecção e colocar seu conteúdo no índice de pesquisa, tornando isso um jogo de gato e rato.

Leia também:

Loja de chatbots da OpenAI está cheia de spam; entenda

Um relatório da TechCrunch encontrou vários GPTs personalizados que vão contra as regras de uso do OpenAI, incluindo alguns que permitem aos usuários “conversar” com personagens protegidos por direitos autorais, personificar figuras públicas e tentar fazer com que o conteúdo escrito pela IA pareça mais humano.