Защитете своя AI с отворен код: Meta пуска „Purple Llama“

A Meta, компанията-майка на Facebook, въвежда нови инструменти за защита и сигурност на своите AI модели с отворен код

Какво е проект с отворен код? | Речник на Newsverso

Проектът с отворен код е съвместно начинание, при което изходният код на софтуера е публично достъпен и може да се използва, модифицира и разпространява свободно.

Деноминиран "Лилава лама“, проектът предлага на разработчиците поредица от инструменти за тестване на техните модели, като гарантира сигурност преди стартиране – с планове за добавяне на още инструменти с течение на времето.

Компанията казва, че стартира набора от инструменти за сигурност, за да „изгради доверие на разработчиците чрез стимулиране на тази нова вълна от иновации“ и че инвестицията в проекта „ще бъде всеобхватна“.

Meta използва защитени с авторски права книги, за да обучи своя AI, разкрива документ

Адвокатите на Meta предупредиха компанията за правните рискове от използването на хиляди пиратски книги за обучение на своите модели с изкуствен интелект (AI), но технологичният гигант въпреки това продължи. Това разкри нова петиция в дело за нарушаване на авторски права.

Лама страж

Сред първите налични инструменти в Purple Llama е Лама страж, отворен предварително обучен модел, който разработчиците могат да използват, за да „подпомогнат защитата срещу генерирането на потенциално рисков резултат“.

Llama Guard е обучен на комбинация от публично достъпни набори от данни и е предназначен да открива често срещани видове рисково съдържание. Meta иска разработчиците да персонализират Llama Guard, за да поддържат случаи на употреба и да улеснят приемането на най-добрите практики.

CyberSec Ева

Друго ново предложение от Purple Llama е CyberSec Eval, набор от показатели за оценка на киберсигурността за големи езикови модели.

CyberSec Eval съдържа тестове за количествено определяне на рисковете за киберсигурността в големи езикови модели, както и инструменти за оценка на честотата на предложенията за несигурен код и за затрудняване на генерирането на зловреден код в моделите.

Лилава лама

Самият проект Purple Llama е кръстен на популярния AI модел с отворен код на Meta, Ламаи концепция от света на киберсигурността, където екипи за атака (червени екипи) атакуват системи и екипи за защита (сини екипи) защитават. Когато двата цвята се комбинират, те създават лилавия цвят“, каза Сай Чоудхури, директор за бизнес развитие и партньорства за AI в Meta, по време на панел на AI Summit New York 2023.

Ресурсите на проекта Purple Llama ще бъдат разрешително лицензирани, за да позволят търговска употреба, както и изследвания. Мета каза, че членовете на новосформирания AI Alliance, на който компанията е основател, ще работят за подобряване на инструментите и ще ги направят по-широко достъпни за общността с отворен код.

AI Alliance: Meta и IBM стартират инициатива за отворен AI модел

Компанията майка на Facebook Meta и IBM стартираха във вторник нова група, наречена „AI Alliance“, която се застъпва за подход на „отворена наука“ към развитието на изкуствения интелект (AI) – което го поставя в противоречие с конкурентите Google, Microsoft e OpenAI.

„Вярваме, че това е важна стъпка към създаване на възможност за сътрудничество между разработчиците и стандартизиране на инструменти за доверие и сигурност за генеративен изкуствен интелект“, според публикация в блога на Meta.

Прочетете също така:

Нов AI инструмент Google композира сам музика; знам повече

Гигантът за търсене обяви миналата сряда (13) стартирането на MusicFX, иновативен нов експериментален инструмент, който позволява на потребителите да създават своя собствена музика с помощта на изкуствен интелект (AI).