딥페이크를 탐지하는 도구는 편견을 피하기 위해 모든 피부색에서 작동해야 한다고 전문가들은 경고합니다.

대부분의 검출기 딥 페이크 훈련에 사용되는 데이터 세트에 크게 의존하는 학습 전략을 기반으로 합니다. 그런 다음 AI를 사용하여 사람의 눈에는 명확하지 않을 수 있는 신호를 감지합니다.

딥페이크란 무엇인가요? | 뉴스버소 용어집 

딥페이크는 기계 학습 알고리즘을 사용하여 거짓되고 설득력 있는 콘텐츠를 만드는 비디오 및 이미지 조작 기술입니다. 최신 컴퓨터의 처리 능력과 고급 인공 지능 기술을 결합하여 실제처럼 보이지만 실제로는 완전히 조작된 비디오를 만들 수 있습니다.

여기에는 혈류 및 심박수 모니터링이 포함될 수 있습니다. 그러나 이러한 감지 방법은 피부색이 더 어두운 사람들에게 항상 작동하는 것은 아닙니다. 훈련 세트에 모든 인종, 억양, 성별, 나이, 피부색이 포함되어 있지 않으면 편견이 생길 수 있습니다., 전문가들은 경고했다.

편견이 만들어지고 있다

지난 2년 동안 AI 및 딥페이크 탐지 전문가들은 이러한 시스템에 편견이 내장되어 있다고 우려를 표명했습니다.

합성 미디어 전문가이자 AI와 기계 학습을 사용하여 합성 조작의 징후에 대한 시각 및 청각 신호를 평가하는 DeepMedia의 공동 창립자이자 CEO인 Rijul Gupta는 다음과 같이 말했습니다.데이터 세트는 항상 중년 백인 남성에게 크게 편향되어 있으며 이러한 유형의 기술은 항상 소외된 커뮤니티에 부정적인 영향을 미칩니다.".

몽크 피부 톤 스케일

엘리스 몽크(Ellis Monk) 하버드 대학교 사회학 교수이자 객원연구원 Google, 개발한 몽크 피부 톤 스케일. 

이는 기술 산업 표준보다 더 포괄적인 규모이며 데이터 세트 및 기계 학습 모델에 사용할 수 있는 더 넓은 범위의 피부 톤을 제공합니다.

몽크는 “이런 다양한 형태의 기술이 처음부터 어떻게 개발됐는지에서 피부색이 검은 사람들은 제외됐다. 피부 톤 측면에서 더 많은 적용 범위와 더 많은 표현을 제공하는 새로운 데이터 세트를 구축해야 하며, 이는 이전 척도보다 표준화되고 일관되며 더 대표적인 측정이 필요하다는 것을 의미합니다."

또한 읽기 :

AI는 마케팅 캠페인을 변화시키고 있습니다. 사용하는 회사를 참조하십시오

인공 지능(AI)은 전 세계 광고주가 이 기술을 사용하여 더욱 개인화되고 매력적인 캠페인을 만들면서 마케팅을 변화시키고 있습니다.

* 이 기사의 텍스트는 텍스트 준비, 검토, 번역 및 요약을 지원하는 최첨단 언어 모델인 인공 지능 도구를 통해 부분적으로 생성되었습니다. 텍스트 항목은 다음에 의해 생성되었습니다. Curto AI 도구의 뉴스와 답변을 활용해 최종 콘텐츠를 개선했습니다.
AI 도구는 도구일 뿐이며 게시된 콘텐츠에 대한 최종 책임은 AI에게 있다는 점을 강조하는 것이 중요합니다. Curto 소식. 이러한 도구를 책임감 있고 윤리적으로 사용함으로써 우리의 목표는 커뮤니케이션 가능성을 확대하고 고품질 정보에 대한 접근을 민주화하는 것입니다. 🤖