Novos desafios de cibersegurança com ameaças de worms de IA

Worms de inteligência artificial (IA) podem se mover automaticamente entre sistemas, criando novos riscos de cibersegurança como roubo de dados e a disseminação de software nocivo. Esta pesquisa importante mostra que, embora a IA possa melhorar significativamente as tarefas do dia a dia, também cria oportunidades para ciberataques.

Publicado por

Isabella Caminoto

4 de março de 2024 13:00

Utilização de Sistemas de IA Generativa

O avanço de sistemas de IA generativa como o ChatGPT da OpenAI e o Gemini do Google tem levado à sua crescente incorporação em várias aplicações, automatizando tarefas como reservas de calendário e compras de produtos. No entanto, essa autonomia aumentada também eleva o potencial de vulnerabilidades cibernéticas.

OpenAI colabora com militares dos EUA em ferramentas de segurança cibernética

A OpenAI está colaborando com o Pentágono em diversos projetos, incluindo capacidades de cibersegurança, após a alteração recente na sua política sobre fornecer inteligência artificial (IA) para militares.

Criação de Worms de IA

Pesquisadores desenvolveram worms de IA generativa capazes de se espalhar por sistemas, potencialmente roubando dados ou implantando malware. Isso significa uma nova forma de ciberataque, demonstrando o cenário em evolução das ameaças de cibersegurança na era da IA.

Técnicas de Exploração

O worm de IA, chamado Morris II, pode comprometer assistentes de e-mail de IA generativa para extrair dados de e-mails ou disseminar spam, contornando certas medidas de segurança de modelos de IA como o ChatGPT e o Gemini. Isso é alcançado por meio de métodos de exploração inovadores, incluindo prompts adversários autorreplicantes.

Riscos de Segurança Aumentados

À medida que os sistemas de IA generativa se tornam mais integrados às operações diárias, sua potencial exploração por atores maliciosos se torna uma preocupação significativa.

Ataques de Injeção de Prompt

A pesquisa expõe a suscetibilidade de sistemas de IA generativa a ataques de injeção de prompt, onde prompts maliciosos podem manipular o comportamento da IA.

Necessidade de Design Seguro e Supervisão Humana

Para mitigar os riscos apresentados pelos worms de IA generativa, a adoção de designs de aplicativos seguros e a manutenção de supervisão humana nas operações de IA são cruciais.

Leia também:

Elon Musk processa OpenAI e gera debate sobre o futuro da IA

Em uma recente e conturbada batalha legal, Elon Musk entrou com uma ação contra a OpenAI, empresa que ele co-fundou, e seu CEO, Sam Altman. A disputa judicial gerou ondas de choque na comunidade tecnológica, levantando questões sobre o futuro do desenvolvimento da IA.

Este post foi modificado pela última vez em 3 de março de 2024 15:59

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.