sztuczna inteligencja Google brak ochrony użytkowników przed złośliwymi stronami internetowymi; zrozumieć

Na początku tego miesiąca Google rozpoczął wdrażanie nowej funkcji o nazwie Google Szukaj doświadczenia generatywnego (SGE) w wynikach wyszukiwania, co zapewnia szybkie podsumowania generowane przez inteligência sztuczne dla zapytań, w tym rekomendacje innych stron związanych z wyszukiwaną tematyką.

Googlenowe wyniki wyszukiwania AI promują witryny rozpowszechniające złośliwe oprogramowanie i oszustwa – @mayank_jee.https://t.co/TI7f9FJvgDhttps://t.co/TI7f9FJvgD

— BleepingComputer (@BleepinComputer) 25 marca 2024 r.

Jednak jak odkryła to konsultantka SEO Lily Ray, SGE z Google w swoich odpowiedziach konwersacyjnych poleca złośliwe i spamerskie witryny internetowe, dzięki czemu użytkownicy łatwiej padają ofiarą oszustwa.

O BOŻE.

W RAMACH ODPOWIEDZI SGE BĘDZIE NAWET POLECAĆ STRONY SPAMOWE. pic.twitter.com/wqgFFXqbMB

— Lily Ray (@lilyraynyc) 22 marca 2024 r.

O BleepingComputer odkryłem, że witryny wymienione przez SGE zwykle używają domeny TLD .online, tych samych szablonów HTML i tych samych witryn do wykonywania przekierowań.

To podobieństwo wskazuje, że wszystkie są częścią tej samej kampanii zatruwania SEO, która pozwoliła im znaleźć się w indeksie. Google. Po kliknięciu na stronę internetową w wynikach wyszukiwania Google, odwiedzający będą przechodzić serię przekierowań, aż dotrą do fałszywej witryny internetowej.

Podczas testów przekierowania często prowadzą do fałszywych captcha lub witryn z oszustwami. YouTube które próbują nakłonić odwiedzających do zasubskrybowania powiadomień przeglądarki.

Nie jest jasne, w jaki sposób te witryny o niskiej jakości przedostają się do algorytmów wyszukiwania Google opartych na sztucznej inteligencji. Google.

Jednak w miarę jak sztuczna inteligencja staje się coraz ważniejszym elementem wyszukiwania w Internecie, staje się coraz bardziej jasne, że nie możemy automatycznie ufać informacjom generowanym przez te algorytmy i że powinniśmy sprawdzać strony internetowe przed ich odwiedzeniem. 

O Google stwierdziła, że ​​stale aktualizuje swoje systemy rankingowe i algorytmy w celu ochrony przed spamem. Jednak „spamerzy” również opracowują swoje techniki unikania wykrycia i umieszczania swoich treści w indeksie wyszukiwania, co sprawia, że ​​jest to gra w kotka i myszkę.

Przeczytaj także:

sklep z chatbotem OpenAI jest pełen spamu; zrozumieć

Raport TechCrunch wykazał kilka niestandardowych GPT, które są sprzeczne z zasadami użytkowania GPT. OpenAI, w tym takie, które pozwalają użytkownikom „rozmawiać” z postaciami chronionymi prawem autorskim, podszywać się pod osoby publiczne i próbować nadać treściom pisanym przez sztuczną inteligencję bardziej ludzki wygląd.