Worms de inteligência artificial (IA) podem se mover automaticamente entre sistemas, criando novos riscos de cibersegurança como roubo de dados e a disseminação de software nocivo. Esta pesquisa importante mostra que, embora a IA possa melhorar significativamente as tarefas do dia a dia, também cria oportunidades para ciberataques.
O avanço de sistemas de IA generativa como o ChatGPT da OpenAI e o Gemini do Google tem levado à sua crescente incorporação em várias aplicações, automatizando tarefas como reservas de calendário e compras de produtos. No entanto, essa autonomia aumentada também eleva o potencial de vulnerabilidades cibernéticas.
Pesquisadores desenvolveram worms de IA generativa capazes de se espalhar por sistemas, potencialmente roubando dados ou implantando malware. Isso significa uma nova forma de ciberataque, demonstrando o cenário em evolução das ameaças de cibersegurança na era da IA.
O worm de IA, chamado Morris II, pode comprometer assistentes de e-mail de IA generativa para extrair dados de e-mails ou disseminar spam, contornando certas medidas de segurança de modelos de IA como o ChatGPT e o Gemini. Isso é alcançado por meio de métodos de exploração inovadores, incluindo prompts adversários autorreplicantes.
À medida que os sistemas de IA generativa se tornam mais integrados às operações diárias, sua potencial exploração por atores maliciosos se torna uma preocupação significativa.
A pesquisa expõe a suscetibilidade de sistemas de IA generativa a ataques de injeção de prompt, onde prompts maliciosos podem manipular o comportamento da IA.
Para mitigar os riscos apresentados pelos worms de IA generativa, a adoção de designs de aplicativos seguros e a manutenção de supervisão humana nas operações de IA são cruciais.
Leia também:
Este post foi modificado pela última vez em 3 de março de 2024 15:59
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…
A inteligência artificial (IA) está transformando setores inteiros da economia, impulsionando avanços em saúde, educação,…
A Copa do Mundo de 2026, que será realizada nos Estados Unidos, Canadá e México,…
O presidente dos Estados Unidos, Donald Trump, assinou nesta terça-feira (2) uma nova ordem executiva…
A rápida expansão da inteligência artificial (IA) na saúde mental vem sendo tratada como uma…
A promessa de neutralidade da inteligência artificial (IA) no mercado de trabalho acaba de sofrer…