Эксперты предупреждают, что инструменты, обнаруживающие дипфейки, должны работать со всеми оттенками кожи, чтобы избежать предвзятости.

Большинство детекторов deepfake основан на стратегии обучения, которая сильно зависит от набора данных, используемого для его обучения. Затем они используют ИИ для обнаружения сигналов, которые могут быть непонятны человеческому глазу.

Что такое дипфейки? | Глоссарий Ньюсверсо 

Дипфейк — это метод манипулирования видео и изображениями, в котором используются алгоритмы машинного обучения для создания ложного и убедительного контента. Он сочетает в себе вычислительную мощность современных компьютеров с передовыми технологиями искусственного интеллекта, позволяя создавать видео, которые кажутся подлинными, но на самом деле полностью сфабрикованы.

Это может включать мониторинг кровотока и частоты сердечных сокращений. Однако эти методы обнаружения не всегда работают на людях с более темным оттенком кожи. Если обучающие наборы не содержат всех этнических групп, акцентов, полов, возрастов и оттенков кожи, они подвержены предвзятости., - предупредили эксперты.

Предвзятость строится

За последние два года эксперты в области искусственного интеллекта и обнаружения дипфейков выразили обеспокоенность, заявив, что в эти системы встроена предвзятость.

Риджул Гупта, эксперт по синтетическим медиа, соучредитель и генеральный директор компании DeepMedia, которая использует искусственный интеллект и машинное обучение для оценки визуальных и звуковых сигналов на наличие признаков синтетических манипуляций, сказал: «Наборы данных всегда сильно перекошены в сторону белых мужчин среднего возраста, и этот тип технологий всегда негативно влияет на маргинализированные сообщества.».

Шкала тонов кожи монаха

Эллис Монк, профессор социологии Гарвардского университета и приглашенный научный сотрудник Google, разработал Шкала тонов кожи монаха. 

Это более инклюзивный масштаб, чем стандарт технологической отрасли, и он обеспечит более широкий спектр оттенков кожи, которые можно использовать для наборов данных и моделей машинного обучения.

Монк сказал: «Темнокожие люди с самого начала были исключены из процесса разработки этих различных форм технологий. Вам необходимо создать новые наборы данных, которые будут иметь больший охват и большую репрезентативность с точки зрения тона кожи, а это означает, что вам нужна какая-то мера, которая будет стандартизированной, последовательной и более репрезентативной, чем предыдущие шкалы».

Читайте также:

ИИ меняет маркетинговые кампании; увидеть компании, которые используют

Искусственный интеллект (ИИ) трансформирует маркетинг: рекламодатели по всему миру используют эту технологию для создания более персонализированных и привлекательных кампаний.

* Текст этой статьи частично создан с помощью инструментов искусственного интеллекта, современных языковых моделей, которые помогают в подготовке, просмотре, переводе и обобщении текстов. Текстовые записи были созданы пользователем Curto Новости и ответы инструментов искусственного интеллекта использовались для улучшения конечного контента.
Важно подчеркнуть, что инструменты ИИ — это всего лишь инструменты, и окончательная ответственность за опубликованный контент лежит на Curto Новости. Используя эти инструменты ответственно и этично, наша цель — расширить возможности коммуникации и демократизировать доступ к качественной информации. 🤖