Worms de inteligência artificial (IA) podem se mover automaticamente entre sistemas, criando novos riscos de cibersegurança como roubo de dados e a disseminação de software nocivo. Esta pesquisa importante mostra que, embora a IA possa melhorar significativamente as tarefas do dia a dia, também cria oportunidades para ciberataques.
O avanço de sistemas de IA generativa como o ChatGPT da OpenAI e o Gemini do Google tem levado à sua crescente incorporação em várias aplicações, automatizando tarefas como reservas de calendário e compras de produtos. No entanto, essa autonomia aumentada também eleva o potencial de vulnerabilidades cibernéticas.
Pesquisadores desenvolveram worms de IA generativa capazes de se espalhar por sistemas, potencialmente roubando dados ou implantando malware. Isso significa uma nova forma de ciberataque, demonstrando o cenário em evolução das ameaças de cibersegurança na era da IA.
O worm de IA, chamado Morris II, pode comprometer assistentes de e-mail de IA generativa para extrair dados de e-mails ou disseminar spam, contornando certas medidas de segurança de modelos de IA como o ChatGPT e o Gemini. Isso é alcançado por meio de métodos de exploração inovadores, incluindo prompts adversários autorreplicantes.
À medida que os sistemas de IA generativa se tornam mais integrados às operações diárias, sua potencial exploração por atores maliciosos se torna uma preocupação significativa.
A pesquisa expõe a suscetibilidade de sistemas de IA generativa a ataques de injeção de prompt, onde prompts maliciosos podem manipular o comportamento da IA.
Para mitigar os riscos apresentados pelos worms de IA generativa, a adoção de designs de aplicativos seguros e a manutenção de supervisão humana nas operações de IA são cruciais.
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 15:59
O Google DeepMind acaba de apresentar o AlphaQubit, um sistema de inteligência artificial (IA) que…
Um código recém-descoberto na última versão beta do ChatGPT sugere que a OpenAI pode estar…
A empresa chinesa de pesquisa em inteligência artificial (IA), DeepSeek, acaba de lançar o R1-Lite-Preview,…
A OpenAI e a parceira sem fins lucrativos Common Sense Media lançaram um curso de…
Brett Adcock, CEO da Figure, postou uma atualização sobre os robôs humanoides da empresa trabalhando…
A Microsoft acaba de apresentar uma suíte de novos agentes de inteligência artificial (IA) especializados…