Tecnologia

Inteligência Artificial para proteger vítimas e combater a sextorsão

Especialistas em inteligência artificial estão desenvolvendo formas de prevenir a sextorsão (ou extorsão sexual) via web, detectando o crime antes mesmo dele acontecer. A prática criminosa consiste na ameaça de divulgação de imagens íntimas para forçar alguém a fazer algo sob extorsão financeira. O crime explodiu nos últimos anos, especialmente nos Estados Unidos, atingindo adolescentes e crianças, o que obrigou o FBI a emitir alertas sobre a prática criminosa.

Publicado por

Marcela Guimarães

23 de julho de 2023 22:17

Enquanto criminosos usam a inteligência artificial para criar imagens de sexuais e usá-las para sextorsão, a mesma tecnologia pode ajudar a impedir a prática que só cresce pelo mundo.

“Sextorsão”: deepfakes e Inteligência Artificial impulsionam onda de extorsão sexual na internet

A inteligência artificial geradora de “deepfakes” está alimentando esquemas de extorsão sexual ou sextorsão, alerta o FBI. De acordo com a polícia federal norte-americana, o número de casos de sextorsão relatados nos EUA aumentou 322% entre fevereiro de 2022 e fevereiro de 2023. A prática teve um aumento significativo desde abril, quando imagens modificadas por IA passaram a circular na internet. Além da troca inocente de “nudes”, os jovens agora precisam se preocupar com a distorção de fotos aparentemente inofensivas postadas em redes sociais.

Um professor de engenharia elétrica e ciência da computação na Universidade de Berkley, na Califórnia, desenvolveu a tecnologia de processamento de linguagem natural (NLP em inglês) para analisar comunicações online e identificar ameaças potenciais.

Hany Farid, que faz parte do Counter Extremism Project – ONG que combate extremismo e terrorismo online – aplica a NLP em casos suspeitos de sextorsão via internet e identifica padrões de comportamento e linguagem que sugerem chantagem e extorsão. A tecnologia detecta pedidos de informações pessoais, conteúdo sexual não solicitado, ameaças, manipulação ou assédio às vítimas.

Por meio do NLP, a IA também gera respostas automáticas para dissuadir predadores em potencial, informando sobre as consequências legais do sextorsão. E ainda pode auxiliar agências policiais nos EUA com informações e evidências úteis para identificar e localizar os criminosos, além de resgatar as vítimas.

De acordo com o site independente BNN, a IA extrai metadados das comunicações online, como endereços IP, localizações geográficas, horários e informações de dispositivos, ajudando a rastrear as origens e destinos das comunicações e ligá-las a identidades reais.

Empresa especializada em IA detecta imagens sexualmente explícitas reais ou ‘deepfake’ que podem ser usadas em sextorsão

Fotos inocentes tiradas na praia academia e postadas por adolescentes podem ser distorcidas em “deepfakes” e transformadas em imagens sexualmente explícitas, usadas para sextorsão.

A empresa norte-americana Canopy desenvolveu um software que identifica essas imagens nos computadores ou celulares de crianças e adolescentes e consegue bloqueá-las. Até mesmo fotos inocentes de bikini são impedidas de serem enviadas, enviando um alerta para os pais.

“Nossa tecnologia pode reconhecer imagens em foto ou vídeo em frações de segundo”, disse Litwin à Fox News Digital.

“A própria plataforma também filtra em tempo real qualquer imagem explícita enquanto a criança navega em site ou aplicativo, evitando acesso de menores à online”, afirma.

Fontes: BNN e Fox News Digital

Leia também:

WormGPT, ferramenta semelhante ao ChatGPT, está sendo usada para crimes cibernéticos na dark web

Uma ferramenta de IA chamada WormGPT, semelhante a ferramenta sucesso da OpenAI, está sendo usada por hackers para realizar ataques usando e-mails em uma escala nunca antes vista.

Inteligência artificial está impulsionando pornografia infantil na internet

Com a explosão de popularidade da inteligência artificial generativa, as empresas, as pessoas e as relações se transformaram. Agora, novas problemáticas envolvendo IA já causam alerta nas autoridades. Na dark web, criminosos divulgam pornografia infantil com o auxílio de ferramentas geradoras de imagem por IA, dizem especialistas. Entenda.

Este post foi modificado pela última vez em 23 de julho de 2023 22:44

Marcela Guimarães