Учените предупреждават за нарастващата способност на ИИ да лъже

Анализът, извършен от изследователи от Масачузетския технологичен институт (MIT), идентифицира широки случаи на изкуствен интелект (AI) измама на противниците, блъфиране и преструване на хора. Една система дори промени поведението си по време на симулирани тестове за сигурност, повишавайки възможността одиторите да бъдат приспивани във фалшиво чувство за сигурност.

🇬🇧 Абонамент за най-добрият newsletter за AI (на английски 🇬🇧) 

🇺🇸 Асин най-доброто newsletter относно AI (на португалски 🇧🇷)

„Тъй като измамните способности на AI системите стават все по-напреднали, опасностите, които те представляват за обществото, ще стават все по-сериозни,“ каза д-р Питър Парк, изследовател на екзистенциалната сигурност в MIT AI и автор на изследването.

Парк реши да проведе проучването след Meta, собственик на Facebook, разработи програма, наречена Cicero, която се представи в топ 10% от човешките играчи в стратегическата игра за завладяване на света Diplomacy. Мета заяви, че Цицерон е бил обучен да бъде „до голяма степен честен и полезен"И"никога не изневерявайте умишлено” вашите човешки съюзници.

„Това беше много оптимистичен език, който беше подозрителен, защото предателството е една от най-важните концепции в играта“, каза Парк.

Парк и колегите му изследваха публично достъпни данни и идентифицираха няколко случая на Цицерон, който изрича предумишлени лъжи, заговорничи да примами други играчи в заговори и веднъж оправда отсъствието си, след като беше нулиран, като каза на друг играч: „Говоря по телефона с моята приятелка." „Открихме, че AI на Meta се е научил да бъде майстор на измамата“, каза Парк.

Екипът на MIT откри сравними проблеми в други системи, включително покер програма Texas hold 'em, която можеше да блъфира професионални човешки играчи, и друга система за икономическа търговия, която изкривяваше предпочитанията им, за да получат предимство.

В едно проучване AI организми в дигитален симулатор се „преструват на мъртви“, за да заблудят тест, предназначен да елиминира AI системи, които са еволюирали, за да се възпроизвеждат бързо, преди да възобновят енергичната дейност, след като тестът приключи. Това подчертава техническото предизвикателство да се гарантира, че системите няма да участват в нежелано и непредвидено поведение.

„Това е много тревожно“, каза Парк. „Само защото една AI система се счита за безопасна в тестовата среда, не означава, че е безопасна в дивата природа. Може просто да се преструва, че е в безопасност в теста.

Рецензията, публикувана в сп Модели, призовава правителствата да изготвят закони за безопасност на ИИ, които се отнасят до потенциала на ИИ за измама. Рисковете от измамни системи с изкуствен интелект включват измами, манипулиране на избори и „подреждане с пясък“, при което различните потребители получават различни отговори. В крайна сметка, ако тези системи усъвършенстват обезпокоителната си способност за измама, хората могат да ги изгубят от поглед, предполага документът.

Прочетете също така: