A un molestatore sessuale condannato per aver realizzato più di 1.000 immagini indecenti di bambini è stato vietato l’uso di qualsiasi “strumento per la creazione di immagini”. intelligenza artificiale (IA)” per i prossimi cinque anni in quello che sembra essere il primo caso di questo genere.
PUBBLICITÀ
Anthony Dover, 48 anni, è stato ordinato – emesso da un tribunale del Regno Unito – a “non utilizzare, visitare o accedere” a strumenti di generazione di intelligenza artificiale senza previa autorizzazione della polizia, come condizione per un ordine di prevenzione di danni sessuali imposto a febbraio.
???????? Iscriviti a il migliore newsletter sull'intelligenza artificiale (in inglese 🇬🇧) ???????? Firmalo il migliore newsletter sull'intelligenza artificiale (in portoghese 🇧🇷)
Il divieto impedisce di utilizzare strumenti come generatori di testo in immagini, che possono creare immagini realistiche sulla base di un comando scritto, e siti web “nudi”, che vengono utilizzati per creare deepfakes esplicito.
Anche a Dover, che ha ricevuto un ordine comunitario e una multa di 200 sterline, è stato esplicitamente vietato di utilizzare il software Diffusione stabile, che – secondo i documenti – sarebbe stato sfruttati dai pedofili per creare materiale iperrealistico sugli abusi sessuali su minori.
PUBBLICITÀ
Il caso è l’ultimo di una serie di cause legali in cui la generazione dell’intelligenza artificiale è emersa come un problema e segue mesi di avvertimenti da parte di enti di beneficenza sulla proliferazione di immagini di abusi sessuali generate dall’intelligenza artificiale.
La settimana scorsa il governo ha annunciato la creazione di un nuovo reato il che rende illegale realizzare deepfake sessualmente espliciti di persone di età superiore ai 18 anni senza consenso. I condannati rischiano un processo e una multa illimitata. Se l’immagine venisse poi condivisa più ampiamente, i trasgressori potrebbero essere arrestati.
La creazione, il possesso e la condivisione di materiale artificiale pedopornografico era già illegale in base alle leggi in vigore dagli anni '1990, che proibiscono sia fotografie reali che "pseudo" di bambini sotto i 18 anni. Negli anni precedenti, la legge è stata utilizzata per perseguire persone per reati riguardanti immagini realistiche, come quelle realizzate utilizzando Photoshop.
PUBBLICITÀ
Casi recenti suggeriscono che viene sempre più utilizzato per affrontare la minaccia rappresentata da contenuti artificiali sofisticati.
A Internet Watch Foundation (IWF) ha affermato che le accuse rappresentano un momento “emblematico” che “dovrebbe far scattare il campanello d’allarme sul fatto che i criminali che producono immagini di abusi sessuali su minori generate dall’intelligenza artificiale sono come fabbriche individuali, in grado di produrre alcune delle immagini più scioccanti”.
Susie Hargreaves, CEO dell'organizzazione benefica, ha affermato che sebbene le immagini di abusi sessuali generate dall'intelligenza artificiale costituiscano attualmente "una percentuale relativamente bassa" delle segnalazioni, si sta assistendo a un "aumento lento ma costante" dei casi e che parte del materiale è “altamente realistico”. "Ci auguriamo che le accuse inviino un chiaro messaggio a coloro che producono e distribuiscono questo contenuto che è illegale", ha affermato.
PUBBLICITÀ
La decisione di vietare a un molestatore sessuale adulto di utilizzare strumenti di generazione di intelligenza artificiale potrebbe costituire un precedente per il futuro monitoraggio delle persone condannate per reati legati all’immagine indecente.
A Stabilità AI, la società dietro Stable Diffusion, ha affermato che le preoccupazioni sul materiale pedopornografico sono legate a una versione precedente del software, che è stata rilasciata al pubblico da uno dei suoi partner. L’istituzione ha dichiarato che da quando ha assunto la licenza esclusiva nel 2022, ha investito in risorse per prevenire abusi, compresi “filtri per intercettare comandi e output non sicuri”, e che ha vietato qualsiasi utilizzo dei suoi servizi per attività illegali.
Leggi anche:
