Заштитите своју вештачку интелигенцију отвореног кода: Мета објављује 'Пурпле Ллама'

A мета, Фацебоок-ова матична компанија, уводи нове алате за заштиту и обезбеђивање својих АИ модела отвореног кода

Шта је пројекат отвореног кода? | Невсверсо Глоссари

Пројекат отвореног кода је заједнички подухват у којем је изворни код софтвера јавно доступан и може се користити, модификовати и слободно дистрибуирати.

Деноминиран 'Пурпле Ллама', пројекат нуди програмерима низ алата за тестирање њихових модела, осигуравајући сигурност пре покретања – са плановима за додавање више алата током времена.

Компанија каже да покреће сет сигурносних алата како би „изградила поверење програмера покретањем овог новог таласа иновација“ и да ће улагање у пројекат „бити свеобухватно“.

Мета је користила књиге заштићене ауторским правима за обуку своје вештачке интелигенције, открива документ

Метини адвокати су упозорили компанију на правне ризике коришћења хиљада пиратских књига за обуку својих модела вештачке интелигенције (АИ), али је технолошки гигант ипак наставио. Ово је открила нова петиција у тужби за повреду ауторских права.

Ллама Гуард

Међу првим алатима доступним у Пурпле Ллама је Ллама Гуард, отворени унапред обучени модел који програмери могу да користе да 'помогну у одбрани од стварања потенцијално ризичних излазних података'.

Ллама Гуард је обучен за комбинацију јавно доступних скупова података и дизајниран је да открије уобичајене типове ризичног садржаја. Мета жели да програмери прилагоде Ллама Гуард да подрже случајеве употребе и олакшају усвајање најбољих пракси.

ЦиберСец Ева

Још једна нова понуда Пурпле Лламе је ЦиберСец Евал, скуп мерила за процену сајбер безбедности за велике језичке моделе.

ЦиберСец Евал садржи тестове за квантификацију ризика сајбер безбедности у великим језичким моделима, као и алате за процену учесталости предлога несигурног кода и за отежавање генерисања злонамерног кода у моделима.

Пурпле Ллама

Сам пројекат Пурпле Ллама је назван по Метином популарном АИ моделу отвореног кода, Ллама, и концепт из света сајбер безбедности где нападачки тимови (црвени тимови) нападају системи и одбрамбени тимови (плави тимови) штите. Када се две боје комбинују, оне стварају љубичасту“, рекао је Си Цхоудхури, директор пословног развоја и АИ партнерстава у компанији Мета, током панела на АИ Суммит-у у Њујорку 2023.

Ресурси пројекта Пурпле Ллама ће бити дозвољено лиценцирани за комерцијалну употребу као и за истраживање. Мета је рекао да ће чланови новоформиране АИ Алијансе, чији је компанија оснивач, радити на побољшању алата и учинити их доступнијим заједници отвореног кода.

Алијанса АИ: Мета и ИБМ покрећу иницијативу отвореног АИ модела

Фацебоок-ова матична компанија Мета и ИБМ у уторак су покренули нову групу под називом 'АИ Аллианце', која се залаже за приступ "отворене науке" развоју вештачке интелигенције (АИ) - што га ставља у сукоб са конкурентима Google, Microsoft e OpenAI.

„Верујемо да је ово важан корак ка омогућавању сарадње између програмера и стандардизовању алата за поверење и безбедност за генеративну вештачку интелигенцију“, наводи се у посту на Мета блогу.

Прочитајте још:

Нови АИ алат Google компонује музику сам; знате више

Гигант за претрагу најавио је прошле среде (13) лансирање МусицФКС-а, иновативног новог експерименталног алата који омогућава корисницима да креирају сопствену музику користећи вештачку интелигенцију (АИ).