ㅣ데일리포스트=김정은 기자ㅣ메타는 8일(현지시간) '퍼플 라마'(Purple Llama) 프로젝트를 시작한다고 공식블로그를 통해 발표했다.
퍼플 라마는 개발자가 오픈 생성형 AI를 기반으로 모델을 구축할 때 안전성을 높일 수 있는 도구와 평가 시스템을 제공하는 프로젝트다.
사이버보안 업계에서는 공격자 툴과 기술을 에뮬레이트해 보안 유효성을 확인하는 팀을 레드팀(공격조), 실제 공격자나 레드팀으로부터 시스템을 방어하는 보안팀을 블루팀(수비조)으로 부른다.
이 개념을 생성형 AI의 위험 평가에 도입해 공격과 방어가 협력해 리스크를 줄이는 접근 방식을 명확히 하기 위해 프로젝트에 '퍼플(보라색)'이라는 이름을 붙였다고 메타는 설명했다.
이번 프로젝트 목적은 메타 가이드(Responsible Use Guide)에서 공유되는 모범 사례에 따라 개발자가 책임지고 생성형 AI 모델을 배포할 수 있도록 지원하는 것이다.
프로젝트 시작과 동시에 메타는 '사이버 보안 평가 기준(CyberSec Eval)'과 입출력 안전장치 '라마 가드(Llama Guard)'를 선보였다.
사이버 보안 평가 기준(CyberSec Eval)은 ▲대규모 언어 모델(LLM)의 사이버 보안 위험을 정량화하기 위한 지표 ▲안전하지 않은 코드를 제안하는 빈도를 평가하는 도구 ▲악성 코드 생성이나 사이버 공격 실행을 어렵게 하기 위한 평가 도구 등이 포함돼 위험을 줄일 수 있다.
또 라마 가드(Llama Guard)는 위험할 수 있는 콘텐츠 등을 검출하는 도구로 대규모 언어 모델에 대한 모든 입출력을 체크하는 필터링을 지원한다.
퍼플 라마 프로젝트는 개방형 접근법을 채택하고 있으며 AI얼라이언스, AMD, AWS, 구글 클라우드, 허깅 페이스(Hugging Face), IBM, 인텔, 라이트닝 AI(Lightning AI), 마이크로소프트, 엠엘커먼스(MLCommons), 엔비디아, 스케일 AI(Scale AI)를 비롯해 기타 많은 기업과 협업해 도구를 개선해 나갈 계획이다. 제공되는 툴은 오픈소스 커뮤니티에서 이용할 수 있다.
한편, 메타는 12월 10일~16일까지 개최되는 AI 학회 '신경정보처리시스템학회(Neur IPS)에서 파트너사가 데모를 통해 '퍼플 라마'에 대한 상세한 정보를 제공할 방침이라고 밝혔다.