Podczas przemówienia na MIT Sam Altman, prezes firmy OpenAI, mówił o liście otwartym, w którym wzywa się do wstrzymania rozwoju technologii sztucznej inteligencji. Altman potwierdził, że firma nie prowadzi szkoleń w języku GPT-5, uważanym za następcę modelu języka GPT-4.
Oświadczenie wydano w ubiegły czwartek (13).
W zeszłym miesiącu tysiące najnowocześniejszych ekspertów technologicznych, w tym Elon Musk i Steve Wozniak podpisali list otwarty wzywający do sześciomiesięcznej przerwy w szkoleniu systemów sztucznej inteligencji bardziej zaawansowanych niż GPT-4.
PUBLICIDADA
W liście podkreślono rosnące obawy związane z wyścigiem w kierunku opracowania coraz potężniejszej sztucznej inteligencji i zagrożeniami, jakie stwarza to dla społeczeństwa. Chociaż współczesne systemy sztucznej inteligencji, takie jak GPT-4, mogą już konkurować z ludźmi w ogólnych zadaniach, list ostrzega przed możliwą stronniczością informacyjną, automatyzacją pracy i ryzykiem utraty kontroli nad cywilizacją ludzką.
ChatGPT-4: nowa wersja ma stare problemy
Altman zgodził się z niektórymi aspektami listu otwartego, w szczególności dotyczącymi konieczności zwiększenia możliwości bezpieczeństwa w rozwoju sztucznej inteligencji. Stwierdził, że OpenAI podjął szeroko zakrojone środki bezpieczeństwa podczas szkolenia GPT-4, w tym audyty zewnętrzne i kontrole bezpieczeństwa.
„Oprócz GPT-4 zajmujemy się innymi rzeczami, które moim zdaniem wiążą się z różnego rodzaju problemami związanymi z bezpieczeństwem, którymi należy się zająć, a które zostały całkowicie pominięte” – powiedział Altman.
SAN FRANCISCO, KALIFORNIA – 03 PAŹDZIERNIKA: OpenAI Współzałożyciel i dyrektor generalny Sam Altman przemawia na scenie podczas TechCrunch Disrupt San Francisco 2019 w Moscone Convention Center 03 października 2019 r. w San Francisco w Kalifornii. Steve Jennings/Getty Images dla TechCrunch/AFP (zdjęcie: Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Nie zgodził się jednak z proponowaną pauzą monetarną na rozwój sztucznej inteligencji i zauważył w piśmie brak konkretów technicznych. Altman odrzucił także twierdzenie, że OpenAI szkolił GPT-5, podkreślając znaczenie dokładnej oceny i monitorowania bezpieczeństwa AI.
PUBLICIDADA
Wyjaśnił dalej, że celem OpenAI jest zachęcanie do globalnego zaangażowania w sztuczną inteligencję, zachęcanie osób i instytucji do modernizacji lub dostosowywania istniejących systemów w celu stworzenia pożądanej przyszłości.
Niedawno pisaliśmy tutaj o Aktualności że OpenAI ogłosiła szereg inicjatyw mających na celu zwiększenie bezpieczeństwa narzędzia. Firma mapromemożesz przeprowadzić dokładne testy, uzyskać opinie od ekspertów zewnętrznych i współpracować z rządami w celu opracowania skutecznych przepisów.
