L’UE criminalizzerà i contenuti pedopornografici generati dall’intelligenza artificiale

Questa iniziativa mira ad affrontare la natura in continua evoluzione di questi crimini atroci, soprattutto nel regno digitale, ampliando le definizioni di reati, introducendo sanzioni più severe e stabilendo requisiti specifici per la prevenzione e l'assistenza alle vittime. Questa proposta integra un regolamento del 2022 che impone alle società Internet di rilevare, segnalare e rimuovere online materiale pedopornografico.

Un'organizzazione britannica trova migliaia di immagini di abusi sessuali su minori create dall'intelligenza artificiale

La Internet Watch Foundation (IWF) ha affermato di aver trovato quasi 3 immagini di abusi sessuali su minori create dall’intelligenza artificiale. L’organizzazione con sede nel Regno Unito ha affermato che le immagini esistenti di vittime di abusi nella vita reale venivano incorporate nei modelli di intelligenza artificiale, che poi ne producevano nuove rappresentazioni.

Ampliare la definizione di reato penale

La proposta amplia la portata di ciò che costituisce reati legati all’abuso sessuale su minori negli Stati membri dell’UE, inclusa la trasmissione in diretta di tali abusi e il possesso e la distribuzione di manuali sulla pedofilia. Tiene conto anche del materiale pedopornografico prodotto utilizzando deepfakes o contenuti generati da intelligenza artificiale.

Rafforzare l’azione penale, la prevenzione e il sostegno

L’iniziativa propone termini più lunghi per le vittime per denunciare gli abusi e intraprendere azioni legali, introduce il diritto al risarcimento finanziario per le vittime e obbliga gli Stati membri a istituire meccanismi di coordinamento per programmi di prevenzione e sostegno alle vittime.

Misure di prevenzione rafforzate

Gli Stati membri sono esortati a sensibilizzare l’opinione pubblica, soprattutto sui rischi online, per garantire ambienti online più sicuri per i bambini. La proposta introduce inoltre requisiti per il controllo dei precedenti personali nelle professioni che comportano uno stretto contatto con i minori e impone ai professionisti in queste posizioni di segnalare le violazioni.

Maggiore tutela per i bambini

Ampliando la definizione di reato e rafforzando il sostegno alle vittime, la proposta mira a offrire una migliore protezione ai bambini contro l'abuso e lo sfruttamento sessuale, soprattutto nell'era digitale in cui tali minacce sono aumentate.

Sfide nell'esecuzione

L’ampia portata dei reati penali, in particolare legati alle nuove tecnologie come l’intelligenza artificiale e i deepfake, presenta sfide significative in termini di applicazione delle norme, che richiedono soluzioni tecnologiche avanzate e cooperazione internazionale per combattere efficacemente questi crimini.

Impatto sulle società Internet

La proposta, insieme al regolamento 2022, attribuisce alle società Internet una responsabilità significativa nel monitorare e rimuovere il materiale pedopornografico. Ciò potrebbe portare a un miglioramento delle misure di sicurezza, ma solleva anche preoccupazioni sulla privacy, sulla libertà di espressione e sull’onere tecnico e finanziario per le aziende più piccole.

Leggi anche:

Google annuncia Gemini 1.5, la versione più potente del tuo modello AI

L'introduzione di Google do Gemini 1.5 segna un progresso significativo nella tecnologia dell'intelligenza artificiale (AI), dimostrando un salto di qualità in termini di prestazioni, efficienza e comprensione del contesto a lungo termine in più modalità.