Các chuyên gia cảnh báo hình ảnh bị thay đổi bởi AI là 'mối đe dọa đối với các tiến trình dân chủ'

Chính trị gia người Anh Karl Turner đã chia sẻ một hình ảnh trên Platform X, trước đây là Twitter, cho thấy Thủ tướng đang uống một loại bia kém chất lượng tại một lễ hội, trong khi một người phụ nữ đứng nhìn với vẻ mặt chế giễu. Hình ảnh được chế tác từ một bức ảnh gốc, trong đó Sunak xuất hiện với một cốc bia trong quán rượu, trong khi người đứng sau anh ta có biểu cảm trung lập.

Trí tuệ nhân tạo tạo ra hình ảnh, nó hoạt động như thế nào?

Tạo hình ảnh bằng trí tuệ nhân tạo là một quá trình rất phức tạp bao gồm một loạt các bước. Nói chung, các kỹ thuật hình ảnh AI dựa trên mạng thần kinh tổng quát (GAN) hoặc mô hình dòng chảy tự hồi quy. Những kỹ thuật này sử dụng dữ liệu hiện có để tìm hiểu cách tạo hình ảnh mới.

Hình ảnh này đã gây ra làn sóng chỉ trích rộng rãi, trong đó Phó Thủ tướng Oliver Dowden gọi nó là "không thể chấp nhận được".

Các chuyên gia cảnh báo rằng cuộc chiến là dấu hiệu cho thấy những gì có thể xảy ra trong các chiến dịch bầu cử trong tương lai. Mặc dù không rõ liệu hình ảnh của Sunak có bị chỉnh sửa bằng công cụ AI hay không, nhưng những chương trình này đã giúp việc tạo ra văn bản, hình ảnh và âm thanh giả thuyết phục trở nên dễ dàng và nhanh chóng hơn.

Làm cách nào để xác định hình ảnh do AI tạo ra? Nhìn

Có Giáo hoàng thời trang, Trump bị bắt, tất cả đều do trí tuệ nhân tạo tạo ra. Nhưng bạn có biết cách nhận biết hình ảnh giả do AI tạo ra không? Xem lời khuyên:

Hội trường Wendy, giáo sư tại Đại học Southampton, báo động: “Tôi nghĩ việc sử dụng các công nghệ kỹ thuật số, bao gồm cả AI, là mối đe dọa đối với các tiến trình dân chủ của chúng ta. Nó sẽ được đưa vào chương trình nghị sự trong sổ đăng ký rủi ro AI với hai cuộc bầu cử lớn – ở Anh và Mỹ – sắp diễn ra vào năm tới.”

Shweta Singh, một nhà giáo dục tại Đại học Warwick, cho biết thêm: “Chúng tôi cần một bộ nguyên tắc đạo đức có thể đảm bảo và trấn an người dùng những công nghệ mới này rằng tin tức họ đang đọc là đáng tin cậy. Chúng ta cần phải hành động vì vấn đề này ngay bây giờ, vì không thể tưởng tượng được các cuộc bầu cử công bằng và vô tư nếu những quy định đó không tồn tại. Đó là một mối quan ngại nghiêm trọng và chúng ta sắp hết thời gian rồi.”

Trong khi đó, các công ty AI mạnh nhất đã nhận ra sự cần thiết của một hệ thống gắn thẻ nội dung do AI tạo ra. Tháng trước, nhà phát triển Amazon, Google, meta, Microsoft e ChatGPT, OpenAI, đã đồng ý với một loạt các biện pháp bảo vệ mới trong cuộc họp với Joe Biden, bao gồm việc sử dụng hình mờ cho nội dung hình ảnh và âm thanh do AI cung cấp.

Những gã khổng lồ AI của Mỹ đoàn kết để tìm kiếm sự tự điều chỉnh

Google, Microsoft, Nhân chủng học và OpenAI, bốn trong số các công ty Mỹ dẫn đầu lĩnh vực Trí tuệ nhân tạo (AI) tiên tiến, đã công bố vào thứ Tư tuần này (26) về việc thành lập một cơ quan chuyên môn mới để chống lại những rủi ro liên quan đến công nghệ này

Đọc thêm:

Các ứng viên đang sử dụng hình ảnh giả do AI tạo ra để thúc đẩy các chiến dịch; Thậm chí có những cử tri có ba tay

Năm nay chúng ta không tổ chức bầu cử ở Brazil, nhưng ở những nơi khác trên thế giới, các chiến dịch đã diễn ra sôi nổi. Các ứng viên đang vận động để trở nên nổi tiếng và nhiều người trong số họ cố gắng làm điều này bằng cách lan truyền trên internet. Vấn đề là phương pháp. Các chính trị gia bắt đầu sử dụng hình ảnh do trí tuệ nhân tạo (AI) tạo ra để tạo ra các mẩu quảng cáo gây hiểu lầm và thậm chí tấn công các đối thủ chính trị bằng nội dung sai sự thật. Hiểu.

Các nhà nghiên cứu MIT phát triển kỹ thuật bảo vệ hình ảnh khỏi sự thao túng của AI

Các nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT) đã phát triển một kỹ thuật mới gọi là PhotoGuard có thể được sử dụng để bảo vệ hình ảnh khỏi bị thao túng bởi các mô hình trí tuệ nhân tạo (AI).

* Nội dung bài viết này được tạo ra một phần bằng các công cụ trí tuệ nhân tạo, các mô hình ngôn ngữ tiên tiến hỗ trợ việc soạn thảo, rà soát, dịch thuật và tóm tắt văn bản. Các mục văn bản được tạo bởi Curto Tin tức và phản hồi từ các công cụ AI đã được sử dụng để cải thiện nội dung cuối cùng.
Điều quan trọng cần nhấn mạnh là các công cụ AI chỉ là công cụ và trách nhiệm cuối cùng đối với nội dung được xuất bản thuộc về Curto Tin tức. Bằng cách sử dụng những công cụ này một cách có trách nhiệm và có đạo đức, mục tiêu của chúng tôi là mở rộng khả năng giao tiếp và dân chủ hóa việc tiếp cận thông tin có chất lượng. 🤖