UE vai criminalizar conteúdo de abuso infantil gerado por IA

A Comissão Europeia está propondo atualizações nas regras de direito penal referentes ao abuso sexual infantil e exploração sexual.

Publicado por

Isabella Caminoto

16 de fevereiro de 2024 13:11

Esta iniciativa visa abordar a natureza em constante evolução desses crimes hediondos, especialmente no âmbito digital, ampliando as definições de infrações, introduzindo penas mais severas e estabelecendo requisitos específicos para prevenção e assistência às vítimas. Esta proposta complementa um regulamento de 2022 que obriga empresas de internet a detectar, relatar e remover material de abuso sexual infantil online.

Organização do Reino Unido encontra milhares de imagens de abuso sexual infantil criadas por IA

A Internet Watch Foundation (IWF) disse ter encontrado quase 3 mil imagens de abuso sexual infantil feitas por inteligência artificial. A organização sediada no Reino Unido disse que imagens existentes de vítimas de abuso na vida real estavam sendo incorporadas em modelos de IA, que então produziam novas representações delas.

Ampliação da definição de infrações criminais

A proposta amplia o escopo do que constitui infrações criminais relacionadas ao abuso sexual infantil nos Estados membros da UE, incluindo a transmissão ao vivo de tal abuso e a posse e distribuição de manuais de pedofilia. Também leva em consideração material de abuso sexual infantil produzido usando deepfakes ou conteúdo gerado por inteligência artificial.

Reforço da persecução, prevenção e apoio

A iniciativa propõe prazos estendidos para que as vítimas denunciem o abuso e busquem medidas legais, introduz um direito a compensação financeira para as vítimas e obriga os Estados membros a estabelecer mecanismos de coordenação para programas de prevenção e apoio às vítimas.

Medidas de prevenção aprimoradas

Os Estados membros são instados a aumentar a conscientização, especialmente sobre os riscos online, para garantir ambientes online mais seguros para as crianças. A proposta também introduz requisitos para verificações de antecedentes em profissões que envolvem contato próximo com crianças e obriga os profissionais nessas posições a relatarem infrações.

Maior proteção para as crianças

Ao ampliar a definição de infrações e fortalecer o apoio às vítimas, a proposta visa oferecer uma melhor proteção às crianças contra o abuso e exploração sexual, especialmente na era digital, onde tais ameaças têm aumentado.

Desafios na execução

O amplo escopo de infrações criminais, especialmente relacionadas a novas tecnologias como IA e deepfakes, apresenta desafios significativos de execução, exigindo soluções tecnológicas avançadas e cooperação internacional para combater eficazmente esses crimes.

Impacto nas empresas de internet

A proposta, juntamente com o regulamento de 2022, atribui uma responsabilidade significativa às empresas de internet para monitorar e remover material de abuso sexual infantil. Isso poderia levar a medidas de segurança aprimoradas, mas também levanta preocupações sobre privacidade, liberdade de expressão e o ônus técnico e financeiro sobre empresas menores.

Leia também:

Google anuncia Gemini 1.5, versão mais poderosa do seu modelo de IA

A introdução do Google do Gemini 1.5 marca um avanço significativo na tecnologia de inteligência artificial (IA), demonstrando um salto em desempenho, eficiência e compreensão de contexto longo em várias modalidades.

Este post foi modificado pela última vez em 16 de fevereiro de 2024 13:12

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.