UE convoca gigantes da tecnologia para elaborarem planos de combate aos deepfakes em meio a preocupações eleitorais

A União Europeia (UE) está convocando oito grandes empresas de tecnologia, incluindo Google, Facebook e X, para detalharem seus métodos de identificação e combate aos deepfakes em meio a temores sobre o uso dessa tecnologia para influenciar eleições. Pela primeira vez no mundo, essas empresas serão obrigadas a seguir novas leis sobre inteligência artificial (IA) para erradicar vídeos, imagens e áudio falsos.

Publicado por

Isabella Caminoto

14 de março de 2024 13:28

Essas empresas têm até 5 de abril para apresentar seus planos de ação para lidar com a disseminação de notícias falsas de última hora e de alto impacto nas redes sociais, especialmente em períodos eleitorais, diante de evidências de que agentes estrangeiros, incluindo russos, estão criando contas “adormecidas” para serem ativadas nas vésperas das eleições.

A UE também está lançando uma investigação formal ao gigante do comércio online chinês AliExpress, que conta com 104 milhões de usuários no bloco, devido a alegações de que sua plataforma é usada para o comércio ilegal de produtos, como medicamentos e alimentos falsificados, além de não conseguir impedir o acesso de crianças a material pornográfico.

Essa investigação do AliExpress é a terceira ação oficial tomada no âmbito da Lei de Serviços Digitais (DSA), uma das principais leis online aprovadas pela UE no ano passado, junto com a Lei de Mercados Digitais (DMA). A UE já havia lançado investigações formais contra o Twitter (agora X) e o TikTok sob essas leis.

União Europeia abre investigação contra o TikTok; saiba mais

A União Europeia (UE) iniciou uma investigação formal para determinar se o TikTok violou as regras de conteúdo online, incluindo as relativas à proteção de crianças.

Além disso, a UE anunciou que está investigando o LinkedIn após relatos de grupos da sociedade civil acusarem a rede social de empregos de violar perfis de publicidade online.

As oito empresas solicitadas a fornecer mais informações sobre sua capacidade de detectar conteúdo falso gerado por inteligência artificial (IA) são Bing, Google Search, Facebook, Instagram, Snapchat, TikTok, YouTube e X.

Primeira grande lei do mundo para regular a IA é aprovada pelos legisladores europeus

O parlamento da União Europeia (UE) aprovou na quarta-feira (13) o primeiro grande conjunto de regras básicas regulatórias do mundo para governar a inteligência artificial (IA).

As autoridades ressaltam que nem todo o conteúdo gerado por IA, que também deve ser rotulado como material fabricado de acordo com a nova lei da UE sobre IA, é prejudicial, mas é importante sinalizar a todas as empresas de tecnologia que as novas leis estão em vigor.

Embora tenha havido poucos casos importantes de deepfakes sendo usados para fins políticos, a empresa X foi particularmente criticada por não conseguir conter a disseminação de deepfakes pornográficos da cantora Taylor Swift no início deste ano.

Microsoft corrige falha que levou à criação de deepfakes pornográficos de Taylor Swift

Na semana passada, imagens falsas de nudez da cantora Taylor Swift, produzidas por inteligência artificial (IA), se espalharam rapidamente pelas redes sociais. Após denúncias apontarem uma brecha utilizada para a criação das imagens no Designer, da Microsoft, a empresa anunciou a correção do problema e realizou atualizações em suas políticas referentes ao uso de IA.

A comissão está convocando todas as empresas de mídia social a demonstrarem seus esforços para combater os deepfakes, pois tais riscos não são hipotéticos. Um relatório do serviço de ação externa da UE, publicado em janeiro, revelou como a Rússia construiu uma rede de contas falsas ao longo de vários meses para dar-lhes uma aparência legítima, pouco antes das eleições gerais do ano passado na Espanha. Essas contas foram então ativadas na véspera da votação para compartilhar desinformação, incluindo alegações de bombas nas assembleias de voto.

Um porta-voz da UE declarou: “Queremos estar o mais preparados possível. Queremos pressionar as plataformas a nos informarem sobre as medidas que estão tomando para estarem tão bem preparadas quanto possível para intervir em cenários de crise, incluindo intervenções de última hora em grande escala, distribuídas através de canais previamente preparados.”

A UE afirmou que irá estabelecer um “ecossistema de fiscalização” com reguladores dos 27 estados membros para enviar uma mensagem a todas as plataformas de que o material falso é agora ilegal sob a Lei de Serviços Digitais.

Leia também:

Pesquisadores driblam segurança de chatbots de IA usando arte ASCII

Pesquisadores de Washington e Chicago desenvolveram um novo método chamado ArtPrompt para driblar as medidas de segurança de grandes modelos de linguagem (LLMs) como GPT-3.5, GPT-4, Gemini, Claude e Llama2.

Este post foi modificado pela última vez em 14 de março de 2024 13:29

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.