Các công cụ phát hiện deepfake phải hoạt động trên mọi tông màu da để tránh sai lệch, các chuyên gia cảnh báo

Hầu hết các máy dò sâu sắc dựa trên chiến lược học tập phụ thuộc nhiều vào tập dữ liệu được sử dụng để đào tạo. Sau đó, họ sử dụng AI để phát hiện các tín hiệu mà mắt người có thể không rõ.

Deepfake là gì? | Bảng thuật ngữ Newsverso 

Deepfake là một kỹ thuật xử lý video và hình ảnh sử dụng thuật toán học máy để tạo ra nội dung sai lệch và thuyết phục. Nó kết hợp sức mạnh xử lý của máy tính hiện đại với các kỹ thuật trí tuệ nhân tạo tiên tiến, cho phép tạo ra các video có vẻ chân thực nhưng thực tế hoàn toàn là bịa đặt.

Điều này có thể bao gồm theo dõi lưu lượng máu và nhịp tim. Tuy nhiên, những phương pháp phát hiện này không phải lúc nào cũng hiệu quả với những người có tông màu da tối hơn và, Nếu tập huấn luyện không chứa tất cả các sắc tộc, giọng, giới tính, độ tuổi và tông màu da thì chúng có thể bị sai lệch, các chuyên gia cảnh báo.

Xu hướng đang được xây dựng

Trong hai năm qua, các chuyên gia về AI và phát hiện deepfake đã nêu lên mối lo ngại, những người cho rằng sự thiên vị đang được tích hợp vào các hệ thống này.

Rijul Gupta, chuyên gia truyền thông tổng hợp, đồng sáng lập và Giám đốc điều hành của DeepMedia, công ty sử dụng AI và học máy để đánh giá các tín hiệu hình ảnh và âm thanh để tìm dấu hiệu thao túng tổng hợp, cho biết: “Các bộ dữ liệu luôn thiên về đàn ông da trắng trung niên và loại công nghệ này luôn tác động tiêu cực đến các cộng đồng bị thiệt thòi".

Thang màu da của nhà sư

Ellis Monk, giáo sư xã hội học tại Đại học Harvard và là học giả thỉnh giảng tại Google, đã phát triển Thang màu da của nhà sư. 

Đó là một thang đo bao quát hơn so với tiêu chuẩn của ngành công nghệ và sẽ cung cấp phổ tông màu da rộng hơn có thể được sử dụng cho các tập dữ liệu và mô hình học máy.

Monk cho biết: “Những người có làn da sẫm màu hơn đã bị loại khỏi quá trình phát triển các dạng công nghệ khác nhau này ngay từ đầu. Bạn cần xây dựng các bộ dữ liệu mới có phạm vi bao phủ nhiều hơn, thể hiện nhiều hơn về màu da và điều đó có nghĩa là bạn cần một số loại thước đo được tiêu chuẩn hóa, nhất quán và mang tính đại diện hơn so với các thang đo trước đây.”

Đọc thêm:

AI đang chuyển đổi các chiến dịch tiếp thị; xem các công ty đang sử dụng

Trí tuệ nhân tạo (AI) đang chuyển đổi hoạt động tiếp thị, trong đó các nhà quảng cáo trên toàn thế giới sử dụng công nghệ này để tạo ra các chiến dịch được cá nhân hóa và hấp dẫn hơn.

* Nội dung bài viết này được tạo ra một phần bằng các công cụ trí tuệ nhân tạo, các mô hình ngôn ngữ tiên tiến hỗ trợ việc soạn thảo, rà soát, dịch thuật và tóm tắt văn bản. Các mục văn bản được tạo bởi Curto Tin tức và phản hồi từ các công cụ AI đã được sử dụng để cải thiện nội dung cuối cùng.
Điều quan trọng cần nhấn mạnh là các công cụ AI chỉ là công cụ và trách nhiệm cuối cùng đối với nội dung được xuất bản thuộc về Curto Tin tức. Bằng cách sử dụng những công cụ này một cách có trách nhiệm và có đạo đức, mục tiêu của chúng tôi là mở rộng khả năng giao tiếp và dân chủ hóa việc tiếp cận thông tin có chất lượng. 🤖