Изображения, измененные ИИ, представляют собой «угрозу демократическим процессам», предупреждают эксперты

Британский политик Карл Тернер поделился на платформе X (ранее Twitter) изображением, на котором видно, как премьер-министр пьет некачественное пиво на фестивале, а женщина смотрит на него с насмешливым выражением лица. Изображение было создано на основе оригинальной фотографии, на которой Сунак изображен с пивом в пабе, а лицо человека позади него имеет нейтральное выражение.

Искусственный интеллект для создания изображений, как он работает?

Создание изображений с использованием искусственного интеллекта — это очень сложный процесс, включающий ряд шагов. Как правило, методы визуализации искусственного интеллекта основаны на генеративных нейронных сетях (GAN) или моделях авторегрессионного потока. Эти методы используют существующие данные, чтобы научиться создавать новые изображения.

Изображение вызвало широкую критику, а заместитель премьер-министра Оливер Дауден назвал его «неприемлемым».

Эксперты предупредили, что эта драка является показателем того, что может произойти во время будущих избирательных кампаний. Хотя неясно, было ли изображение Сунака обработано с помощью инструмента искусственного интеллекта, эти программы упростили и ускоряют создание убедительного фальшивого текста, изображений и аудио.

Как идентифицировать изображение, созданное ИИ? Смотреть

Был Папа-модник, арест Трампа, и все это было создано искусственным интеллектом. Но знаете ли вы, как распознать поддельное изображение, созданное ИИ? Смотрите советы:

Венди Холл, профессор Университета Саутгемптона, сделать предупреждение: «Я думаю, что использование цифровых технологий, в том числе искусственного интеллекта, представляет угрозу нашим демократическим процессам. Это должно быть на повестке дня в реестре рисков ИИ, поскольку в следующем году приближаются два крупных выборов – в Великобритании и США».

Швета Сингх, преподаватель Университета Уорика, добавляет: «Нам нужен набор этических принципов, которые могут гарантировать и заверять пользователей этих новых технологий в том, что новости, которые они читают, заслуживают доверия. Нам необходимо действовать сейчас, поскольку невозможно представить себе честные и беспристрастные выборы, если бы таких правил не существовало. Это серьезная проблема, и у нас мало времени».

Между тем, самые влиятельные компании, занимающиеся искусственным интеллектом, осознали необходимость в системе маркировки контента, созданного искусственным интеллектом. В прошлом месяце разработчик Amazon, Google, Мета, Microsoft e ChatGPT, OpenAI, согласился на ряд новых мер безопасности на встрече с Джо Байденом, которые включали использование водяных знаков для визуального и аудиоконтента на основе искусственного интеллекта.

Американские гиганты искусственного интеллекта объединяются, чтобы добиться саморегулирования

Google, Microsoft, антропный и OpenAI, четыре американские компании, лидирующие в области современного искусственного интеллекта (ИИ), объявили в эту среду (26) о создании нового профессионального органа для борьбы с рисками, связанными с этой технологией.

Читайте также:

Кандидаты используют поддельные изображения, созданные искусственным интеллектом, для продвижения своих кампаний; Есть даже избиратели с тремя руками

В этом году в Бразилии выборов не будет, но в других частях мира предвыборные кампании уже идут полным ходом. Кандидаты мобилизуются, чтобы стать популярными, и многие из них пытаются сделать это, распространяя информацию в Интернете. Проблема в методе. Политики начали использовать изображения, созданные искусственным интеллектом (ИИ), для создания вводящих в заблуждение рекламных материалов и даже атаковать политических оппонентов ложным содержанием. Понимать.

Исследователи Массачусетского технологического института разрабатывают метод защиты изображений от манипуляций ИИ

Исследователи из Массачусетского технологического института (MIT) разработали новую технику под названием PhotoGuard, которую можно использовать для защиты изображений от манипуляций с помощью моделей искусственного интеллекта (ИИ).

* Текст этой статьи частично создан с помощью инструментов искусственного интеллекта, современных языковых моделей, которые помогают в подготовке, просмотре, переводе и обобщении текстов. Текстовые записи были созданы пользователем Curto Новости и ответы инструментов искусственного интеллекта использовались для улучшения конечного контента.
Важно подчеркнуть, что инструменты ИИ — это всего лишь инструменты, и окончательная ответственность за опубликованный контент лежит на Curto Новости. Используя эти инструменты ответственно и этично, наша цель — расширить возможности коммуникации и демократизировать доступ к качественной информации. 🤖