Được công bố vào ngày Microsoft Thắp lửa 2023, Bài phát biểu AI của Azure được đào tạo về hình ảnh con người và cho phép người dùng nhập một tập lệnh mà sau đó hình đại diện có thể “đọc” thành tiếng fotorthực tế được tạo ra bằng AI.
QUẢNG CÁO
Người dùng có thể chọn hình đại diện được tải sẵn từ Microsoft hoặc tải lên hình ảnh của một người mà họ muốn sao chép giọng nói và hình ảnh. MỘT Microsoft đã nói trong một Blog của chúng tôi. đã công bố vào thứ Tư (15) rằng công cụ này có thể được sử dụng để xây dựng “các tác nhân đàm thoại, trợ lý ảo, chatbot và hơn thế nữa”.
người sáng tạo deepfake
Công ty cho biết phần mềm chuyển văn bản thành giọng nói mới đang được phát hành với nhiều giới hạn và biện pháp bảo vệ khác nhau để ngăn chặn việc sử dụng sai mục đích. “Là một phần trong cam kết của Microsoft Với AI có trách nhiệm, hình đại diện chuyển văn bản thành giọng nói được thiết kế với mục đích bảo vệ quyền của cá nhân và xã hội bằng cách thúc đẩy sự tương tác minh bạch giữa con người với máy tính và chống lại sự gia tăng của các nội dung giả mạo sâu có hại và nội dung sai lệch,” tuyên bố Microsoft.
Thông báo này nhanh chóng làm dấy lên những lời chỉ trích rằng Microsoft đã có phát hành một “người sáng tạo deepfake” – thứ sẽ dễ dàng cho phép sao chép hình ảnh của một người và buộc phải nói và làm những điều mà người đó không nói hoặc làm.
QUẢNG CÁO
Trong một tuyên bố, công ty đã bác bỏ những lời chỉ trích, nói rằng hình đại diện tùy chỉnh hiện là một công cụ “quyền truy cập hạn chế” mà khách hàng phải đăng ký và được phê duyệt. Microsoft. Người dùng cũng sẽ được yêu cầu tiết lộ thời điểm AI được sử dụng để tạo giọng nói hoặc hình đại diện tổng hợp.
Đọc thêm:
