A Microsoft azt mondta, hogy az üzleti partnerrel együttműködve észlelte és leállt OpenAI, számos olyan fenyegetés, amely biztonsági technológiát használt vagy próbált kihasználni inteligência mesterséges hogy kifejlesztették.
HIRDETŐ
Egy blogbejegyzésben , a cég szerint a technikák „korai szakaszában” vannak, és nem „különösen újak vagy egyediek”, de fontos volt, hogy nyilvánosan felfedjék őket az Egyesült Államok riválisaként, széles nyelvi modellek felhasználásával, hogy bővítsék a megsértési képességüket. hálózatok és a befolyás gyakorlása.
Észak-Korea és Irán mesterséges intelligenciát használ hackeléshez, Microsoft azt mondja, https://t.co/NaNuLFIEUg
– Guardian US (@GuardianUS) Február 14, 2024
A kiberbiztonsági cégek régóta használják a gépi tanulást védekezésben, különösen a hálózatokban tapasztalható rendellenes viselkedés észlelésére. De a bűnözők és a támadó hackerek is használják, és a nagy nyelvi modellek bevezetése által vezetett ChatGPT da OpenAI ez a macska-egér játék felerősödött.
A Microsoft mutatott néhány példát. Minden esetben azt mondta, hogy a megnevezett csoportok összes generatív AI-fiókja és eszköze le van tiltva.
HIRDETŐ
Külföldi fenyegetés
A Kimsuky néven ismert észak-koreai kiberkémcsoport a modelleket arra használta, hogy az országot tanulmányozó külföldi agytrösztökben kutasson, és olyan tartalmat hozzon létre, amelyet valószínűleg lándzsás adathalász hackelési kampányokban használnak majd fel.
Az iráni Forradalmi Gárda széles nyelvű modelleket használ a mérnöki munkák segítésére.aria közösségi, hibaelhárítási szoftverhibák és még annak tanulmányozása is, hogyan menekülhetnek meg a behatolók az észleléstől a hálózatonpromevolt.
A GRU orosz katonai hírszerző egység – Fancy Bear néven – a modelleket olyan műhold- és radartechnológiák kutatására használta, amelyek az ukrajnai háborúhoz köthetők.
HIRDETŐ
Az Aquatic Panda néven ismert kínai kiberkémkedési csoport – amely az iparágak, a felsőoktatás és a kormányok széles skáláját célozza meg, Franciaországtól Malajziáig – olyan módon lépett kapcsolatba a modellekkel, „olyan módon, ami azt sugallja, hogy az LLM-ek miként növelhetik műszaki tevékenységeiket”.
A kínai Maverick Panda csoport, amely több mint egy évtizede az amerikai védelmi vállalkozókat célozza meg más ágazatok között, nagy nyelvi modellekkel érintkezett, ami azt sugallja, hogy értékelik a hatékonyságát információforrásként „potenciálisan kényes témákról, nagy horderejű személyekről”. , geopolitikai régiók, az Egyesült Államok befolyása és belügyek.”
Külön blogban szerdán jelent meg a OpenAI azt mondta, hogy a jelenlegi GPT-4 chatbot-modell „csak korlátozott, növekményes képességeket kínál rosszindulatú kiberbiztonsági feladatokhoz azon túl, ami a nyilvánosan elérhető, nem mesterséges intelligencia eszközökkel már lehetséges”.
HIRDETŐ
Olvassa el:
