Οι αρχές ερευνούν εταιρεία που φέρεται να εμπλέκεται στη χρήση τεχνητής νοημοσύνης για να μιμηθεί τη φωνή του Μπάιντεν στις κλήσεις

Ο γενικός εισαγγελέας του Νιου Χάμσαϊρ ανακοίνωσε την Τρίτη μια ποινική έρευνα σε μια εταιρεία με έδρα το Τέξας που φέρεται να βρισκόταν πίσω από χιλιάδες κλήσεις που δημιουργήθηκαν από την τεχνητή νοημοσύνη και υποδύονταν τον Πρόεδρο Μπάιντεν ενόψει των προκριματικών εκλογών της πολιτείας. https://t.co/EACqHQCty1

- Η Washington Post (@washingtonpost) Φεβρουάριος 7, 2024

Τζον Φορμέλλα διέταξε την εταιρεία τηλεπικοινωνιών Life Corp να σταματήσει αμέσως τις παραβιάσεις της πολιτειακής νομοθεσίας κατά της καταστολής των ψηφοφόρων. Αυτή η απόφαση χρησιμεύει ως προειδοποίηση για τις εταιρείες των ΗΠΑ που επιχειρούν να χρησιμοποιήσουν το τεχνητή inteligência να παρέμβει στις εκλογές.

Στα τέλη Ιανουαρίου του τρέχοντος έτους, περίπου 20 άνθρωποι έλαβαν τηλεφωνήματα που δημιουργήθηκαν από τεχνητή νοημοσύνη παριστάνοντας τον Πρόεδρο Μπάιντεν, με το μήνυμα: «Η ψήφος σας έχει σημασία τον Νοέμβριο, όχι αυτήν την Τρίτη». Αυτές οι κλήσεις χειραγωγήθηκαν για να φαίνονται σαν να στάλθηκαν από στέλεχος της δημοκρατικής επιτροπής.

Οι ΗΠΑ ερευνούν τη χρήση της τεχνητής νοημοσύνης για να μιμηθούν τη φωνή του Μπάιντεν σε ψεύτικες κλήσεις για τις εκλογές

Καθώς οι ψηφοφόροι του Νιου Χάμσαϊρ ετοιμάζονταν να ψηφίσουν στις πρώτες προκριματικές εκλογές της πολιτείας, κυκλοφόρησε μια ρομποτική κλήση στην πολιτεία που καλούσε τους Δημοκρατικούς να μείνουν σπίτι - χρησιμοποιώντας ψεύτικο ήχο του προέδρου των ΗΠΑ Τζο Μπάιντεν.

Σύμφωνα με τις αμερικανικές αρχές, αυτά τα μηνύματα αντιπροσωπεύουν μια παράνομη απόπειρα παρέμβασης στις προκριματικές εκλογές του Νιού Χάμσαϊρ. Ο αντίκτυπος των παράτυπων προσκλήσεων στην εκλογική διαδικασία δεν έχει ακόμη προσδιοριστεί.

Σύμφωνα με ανάλυση του Πανεπιστημίου της Φλόριντα, οι ηχογραφήσεις πιθανότατα δημιουργήθηκαν από το λογισμικό κλωνοποίησης φωνής AI της εταιρείας, Eleven Labs. Η εταιρεία έχει δεχθεί έντονες επικρίσεις επειδή δεν εφαρμόζει επαρκή μέτρα ασφαλείας για να εμποδίσει τους απατεώνες να χρησιμοποιήσουν την τεχνολογία.

Οι ρομποτικές κλήσεις που δημιουργούνται από AI θα μπορούσαν να γίνουν παράνομες στις ΗΠΑ

Η Ομοσπονδιακή Επιτροπή Επικοινωνιών των Ηνωμένων Πολιτειών (FCC) κινείται για να ποινικοποιήσει ρητά τις αυτόκλητες ρομποκλήσεις που χρησιμοποιούν φωνές τεχνητής νοημοσύνης (AI).

Η ElevenLabs ανακοίνωσε ότι έχει αναστείλει τον λογαριασμό που είναι υπεύθυνος για τη δημιουργία του deepfake του Μπάιντεν και επιβεβαίωσε τη δέσμευσή του να αποτρέψει την κακή χρήση εργαλείων τεχνητής νοημοσύνης ήχου. Εν τω μεταξύ, η Life Corp επέλεξε να μην σχολιάσει επίσημα την υπόθεση.

Η εκστρατεία του Μπάιντεν επαίνεσε τον γενικό εισαγγελέα του Νιου Χάμσαϊρ για τη γρήγορη παρέμβασή του, αποκαλώντας την ισχυρό παράδειγμα κατά των προσπαθειών παρέμβασης στις δημοκρατικές εκλογές.

Διαβάστε επίσης:

Το YouTube θα έχει ετικέτες για βίντεο τεχνητής νοημοσύνης και θα εντείνει τον αγώνα κατά των deepfakes στις εκλογές

Το YouTube δημοσίευσε οδηγίες στο επίσημο ιστολόγιο του που περιγράφουν λεπτομερώς την προσέγγισή του στο περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη (AI).