Κατά τη διάρκεια ομιλίας στο MIT, Sam Altman, Διευθύνων Σύμβουλος της OpenAI, μίλησε για την ανοιχτή επιστολή που ζητά μια παύση στην εξέλιξη της τεχνολογίας AI. Ο Altman επιβεβαίωσε ότι η εταιρεία δεν εκπαιδεύει το GPT-5, που θεωρείται ο διάδοχος του γλωσσικού μοντέλου GPT-4.
Η δήλωση έγινε την περασμένη Πέμπτη (13).
Τον περασμένο μήνα, χιλιάδες ειδικοί τεχνολογίας αιχμής, συμπεριλαμβανομένων Elon Musk και ο Steve Wozniak, υπέγραψαν μια ανοιχτή επιστολή που ζητούσε εξάμηνη παύση στην εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο προηγμένα από το GPT-4.
ΔΙΑΦΗΜΙΣΗ
Η επιστολή υπογραμμίζει τις αυξανόμενες ανησυχίες σχετικά με τον αγώνα ανάπτυξης ολοένα και πιο ισχυρής τεχνητής νοημοσύνης και τους κινδύνους που αυτό εγκυμονεί για την κοινωνία. Ενώ τα σύγχρονα συστήματα τεχνητής νοημοσύνης όπως το GPT-4 μπορούν ήδη να ανταγωνίζονται τους ανθρώπους σε γενικές εργασίες, η επιστολή προειδοποιεί για πιθανή προκατάληψη πληροφοριών, αυτοματοποίηση εργασίας και τον κίνδυνο απώλειας του ελέγχου του ανθρώπινου πολιτισμού.
ChatGPT-4: η νέα έκδοση έχει παλιά προβλήματα
Ο Άλτμαν συμφώνησε με ορισμένες πτυχές της ανοιχτής επιστολής, ειδικά όσον αφορά την ανάγκη να αυξηθούν οι δυνατότητες ασφάλειας στην ανάπτυξη τεχνητής νοημοσύνης. Δήλωσε ότι η OpenAI έλαβε εκτεταμένα μέτρα ασφαλείας κατά την εκπαίδευση του GPT-4, συμπεριλαμβανομένων εξωτερικών ελέγχων και ελέγχων ασφαλείας.
"Κάνουμε άλλα πράγματα εκτός από το GPT-4 που νομίζω ότι έχουν όλα τα είδη των ζητημάτων ασφαλείας που είναι σημαντικά να αντιμετωπιστούν και έμειναν εντελώς έξω από την επιστολή", είπε ο Άλτμαν.
ΣΑΝ ΦΡΑΝΤΣΙΣΚΟ, ΚΑΛΙΦΟΡΝΙΑ – 03 ΟΚΤΩΒΡΙΟΥ: OpenAI Συνιδρυτής & Διευθύνων Σύμβουλος Sam Altman μιλά στη σκηνή κατά τη διάρκεια του TechCrunch Disrupt San Francisco 2019 στο Moscone Convention Center στις 03 Οκτωβρίου 2019 στο Σαν Φρανσίσκο της Καλιφόρνια. Steve Jennings/Getty Images για το TechCrunch/AFP (Φωτογραφία από τον Steve Jennings / GETTY IMAGES ΒΟΡΕΙΑ ΑΜΕΡΙΚΗ / AFP)
Ωστόσο, διαφώνησε με την προτεινόμενη νομισματική παύση για την ανάπτυξη της τεχνητής νοημοσύνης και σημείωσε την έλλειψη τεχνικής ιδιαιτερότητας στην επιστολή. Ο Άλτμαν διέψευσε επίσης τον ισχυρισμό ότι η OpenAI εκπαίδευε το GPT-5, δίνοντας έμφαση στη σημασία της ακριβούς αξιολόγησης και παρακολούθησης της ασφάλειας AI.
ΔΙΑΦΗΜΙΣΗ
Εξήγησε περαιτέρω ότι ο στόχος του OpenAI είναι να ενθαρρύνει την παγκόσμια δέσμευση με την τεχνητή νοημοσύνη, οδηγώντας άτομα και ιδρύματα να αναβαθμίσουν ή να προσαρμόσουν τα υπάρχοντα συστήματα για να δημιουργήσουν το επιθυμητό μέλλον.
Πρόσφατα αναφέραμε εδώ Newsverse ότι το OpenAI έχει ανακοινώσει μια σειρά πρωτοβουλιών για να καταστήσει το εργαλείο ασφαλέστερο. Η εταιρεία έχειpromeδικοί σας για να πραγματοποιήσετε ενδελεχείς δοκιμές, να αναζητήσετε σχόλια από εξωτερικούς ειδικούς και να συνεργαστείτε με τις κυβερνήσεις για την ανάπτυξη αποτελεσματικών κανονισμών.
