Изследователите използват книгите за Хари Потър, за да тестват AI системи и да изследват сложни проблеми; разбирам

Изследователите използват поредицата от книги за Хари Потър, за да оценят как системите с генеративен изкуствен интелект (AI) учат и забравят специфична информация.

Трайното влияние на сагата върху популярната култура, съчетано с огромния набор от езикови данни и сложната игра на думи, присъстващи на страниците й, накара все по-голям брой изследователи да изследват технологията на изкуствен интелект (AI) чрез книги на Хари Потър.

ПУБЛИЧНОСТ

Преразглеждането на списък от проучвания и академични статии, в които се споменава Хари Потър, дава представа за напреднали изследвания в областта на изкуствения интелект – и за някои от по-сложните проблеми, които предизвикват тази технология.

Забележителен скорошен пример е статия, озаглавена „Кой е Хари Потър?” („Кой е Хари Потър?”), където героите Хари, Хърмаяни и Рон играят видни роли. Тази статия представя нова техника, която помага на големите езикови модели избирателно да забравят информация.

Това е изключително подходящо за индустрията, тъй като големите езикови модели, които захранват чат ботове с изкуствен интелект, са изградени въз основа на огромни онлайн набори от данни, които включват защитени с авторски права материали и друго чувствително съдържание. Този сценарий доведе до съдебни дела и обществен контрол за някои AI компании.

ПУБЛИЧНОСТ

Изследователите от Microsoft, Марк Русинович и Ронен Елдан, автори на статията, заявяват, че са демонстрирали, че е възможно да се модифицират или редактират AI модели, за да се премахне всякакво знание за съществуването на произведения на Хари Потър, включително герои и сюжети, без да се прави компромисpromeимат цялостните възможности за вземане на решения и анализ на AI системата.

„Ние вярвахме, че ще бъде по-лесно за хората в изследователската общност да оценят модела, произтичащ от нашата техника, и сами да потвърдят, че съдържанието наистина е „ненаучено“. Почти всеки може да направи предложения за модела, който проучва.aria независимо дали той "познава" книгите. Дори хора, които не са чели книгите, саariaсъм наясно с елементите и героите на сюжета.“, коментира Марк Русинович, директор по технологиите в Microsoft Лазурен

Прочетете също така:

превъртете нагоре