Meta предупреждает о вредоносном ПО, выдающем себя за искусственный интеллект

В апреле аналитики безопасности гиганта социальных сетей обнаружили вредоносное программное обеспечение, выдающее себя за ChatGPT или аналогичные инструменты искусственного интеллекта, сообщил журналистам директор по информационной безопасности Meta Гай Розен.

Он напомнил, что злоумышленники (хакеры, спамеры и другие) всегда следят за последними тенденциями, которые «захватывают воображение» общественности, такими как ChatGPT. Этот интерфейс OpenAI, который позволяет плавно вести диалог с людьми для создания кода и текстов, таких как сообщения электронной почты и диссертации, вызвал большой энтузиазм.

Розен сказал, что Meta обнаружила поддельные расширения веб-браузера, которые утверждают, что содержат инструменты генеративного искусственного интеллекта, но на самом деле содержат вредоносное программное обеспечение, предназначенное для заражения устройств.

Злоумышленники обычно привлекают внимание пользователей Интернета с помощью привлекательных разработок, обманом заставляя людей переходить по заминированным ссылкам или загружать программы, крадут данные.

«Мы видели это в других популярных темах, таких как мошенничество, вызванное огромным интересом к цифровым валютам», — сказал Розен. «С точки зрения злоумышленника, ChatGPT это новая криптовалюта», — отметил он.

Тысяча заблокированных сайтов

Meta обнаружила и заблокировала более тысячи веб-сайтов, позиционирующих себя как инструменты, аналогичные ChatGPT, но на самом деле это ловушки, созданные хакерами, по мнению службы безопасности технологической компании.

Технический гигант еще не видел, чтобы хакеры использовали генеративный ИИ в качестве чего-то большего, чем просто приманка, но он готовится к использованию его в качестве оружия, что он считает неизбежным, сказал Розен.

«Генераторный ИИ очень перспективен, и злоумышленники знают об этом, поэтому мы все должны быть очень бдительными», — сказал он.

В то же время мета-команды ищут способы использования генеративного искусственного интеллекта для защиты от хакеров и их мошеннических онлайн-кампаний.

«У нас есть команды, которые уже думают о том, как можно злоупотреблять (генеративным ИИ) и о том, какую защиту мы должны создать, чтобы противодействовать этому», — заявил на том же брифинге руководитель отдела политики безопасности Meta Натаниэль Глейхер.

"Мы к этому готовимся", - заверил Глейхер.