지난 4월, 거대 소셜 미디어의 보안 분석가들은 다음과 같은 악성 소프트웨어를 발견했습니다. ChatGPT 또는 유사한 AI 도구라고 Meta의 정보 보안 이사인 Guy Rosen이 기자들에게 말했습니다.
널리 알려짐
그는 악의적인 행위자(해커, 스패머 등)가 다음과 같이 대중의 "상상력을 사로잡는" 최신 트렌드를 항상 경계하고 있다고 회상했습니다. ChatGPT. 이 인터페이스 OpenAI인간과의 유연한 대화를 통해 이메일 메시지, 논문 등의 코드와 텍스트를 생성할 수 있는 는 큰 열광을 불러일으켰습니다.
Rosen은 Meta가 생성 AI 도구를 포함한다고 주장하지만 실제로는 장치를 감염시키도록 설계된 악성 소프트웨어를 포함하는 가짜 웹 브라우저 확장을 발견했다고 말했습니다.
악의적인 행위자가 눈길을 끄는 개발로 인터넷 사용자의 관심을 끌고, 사람들이 부비트랩 링크를 클릭하도록 속이거나 데이터 도용 프로그램을 다운로드하는 것은 흔한 일입니다.
널리 알려짐
Rosen은 “우리는 디지털 통화에 대한 엄청난 관심으로 인해 발생하는 사기와 같은 다른 인기 있는 주제에서도 이러한 현상을 목격했습니다.”라고 말했습니다. “악의적인 행위자의 입장에서 보면, ChatGPT 그것은 새로운 암호화폐다”라고 그는 지적했다.
차단된 웹사이트 1000개
Meta는 다음과 유사한 도구로 홍보하는 천개 이상의 웹사이트를 탐지하고 차단했습니다. ChatGPT이지만 실제로는 해커가 만든 함정이라고 해당 기술회사의 보안팀이 밝혔습니다.
로젠은 "이 거대 기술 기업은 아직 생성 AI가 해커의 미끼 이상의 용도로 사용되는 것을 보지 못했지만 불가피하다고 보고 무기로 사용될 준비를 하고 있다"고 말했다.
널리 알려짐
“제너레이티브 AI는 매우 유망하며 나쁜 행위자들도 이를 알고 있기 때문에 우리 모두는 매우 경계해야 합니다.”라고 그는 말했습니다.
동시에 Meta 팀은 해커와 그들의 사기성 온라인 캠페인을 방어하기 위해 생성 AI를 사용하는 방법을 모색하고 있습니다.
Meta의 보안 정책 책임자인 Nathaniel Gleicher는 같은 브리핑에서 "우리 팀은 이미 (생성 AI)가 어떻게 남용될 수 있는지, 그리고 이에 대응하기 위해 마련해야 할 방어책에 대해 생각하고 있습니다."라고 말했습니다.
널리 알려짐
Gleicher는 "우리는 이를 준비하고 있습니다"라고 확신했습니다.
