A 메타Facebook의 모회사인 Facebook은 오픈 소스 AI 모델을 보호하고 보호하기 위한 새로운 도구를 도입합니다.
널리 알려짐
'로 표기보라색 라마'를 통해 이 프로젝트는 개발자에게 모델을 테스트할 수 있는 일련의 도구를 제공하여 출시 전에 보안을 보장하며 시간이 지남에 따라 더 많은 도구를 추가할 계획입니다.
회사는 "새로운 혁신의 물결을 주도하여 개발자의 신뢰를 구축"하기 위해 보안 도구 세트를 출시할 예정이며 프로젝트에 대한 투자는 "포괄적일 것"이라고 밝혔습니다.
라마 가드
Purple Llama에서 사용할 수 있는 첫 번째 도구 중에는 라마 가드, 개발자가 '잠재적으로 위험한 출력 생성을 방어하는 데 도움'을 줄 수 있는 개방형 사전 훈련 모델입니다.
널리 알려짐
Llama Guard는 공개적으로 사용 가능한 데이터 세트 조합에 대해 교육을 받았으며 일반적인 유형의 위험한 콘텐츠를 탐지하도록 설계되었습니다. Meta는 개발자가 Llama Guard를 사용자 정의하여 사용 사례를 지원하고 모범 사례 채택을 촉진하기를 원합니다.
사이버섹 에바
Purple Llama의 또 다른 새로운 제품은 CyberSec 평가, 대규모 언어 모델에 대한 사이버 보안 평가 벤치마크 세트입니다.
CyberSec Eval에는 대규모 언어 모델의 사이버 보안 위험을 정량화하는 테스트는 물론 안전하지 않은 코드 제안 빈도를 평가하고 모델에서 악성 코드 생성을 어렵게 만드는 도구가 포함되어 있습니다.
널리 알려짐
보라색 라마
Purple Llama 프로젝트 자체는 Meta의 인기 오픈 소스 AI 모델의 이름을 따서 명명되었습니다. 야마, 그리고 공격 팀(레드 팀)은 공격 시스템을, 방어 팀(블루 팀)은 보호하는 사이버 보안 세계의 개념입니다. 두 가지 색상이 결합되면 보라색이 생성됩니다.” Meta의 비즈니스 개발 및 AI 파트너십 이사인 Sy Choudhury가 AI Summit New York 2023 패널에서 말했습니다.
Purple Llama 프로젝트 리소스는 상업적 사용과 연구를 허용하도록 허가됩니다. Meta는 새로 결성된 AI Alliance(회사가 창립 멤버) 회원들이 도구를 개선하고 오픈 소스 커뮤니티에서 더 광범위하게 사용할 수 있도록 노력할 것이라고 말했습니다.
Meta 블로그의 게시물에 따르면 "우리는 이것이 개발자 간의 협업을 활성화하고 생성 인공 지능을 위한 신뢰 및 보안 도구를 표준화하는 데 중요한 단계라고 믿습니다."
널리 알려짐
또한 읽기 :
