Během projevu na MIT, Sam Altman, generální ředitel společnosti OpenAI, hovořil o otevřeném dopise, který vyzývá k pozastavení rozvoje technologie AI. Altman potvrdil, že společnost neškolí GPT-5, považovaný za nástupce jazykového modelu GPT-4.
Prohlášení bylo učiněno minulý čtvrtek (13.
Minulý měsíc tisíce špičkových technologických odborníků, včetně Elon Musk a Steve Wozniak podepsali otevřený dopis vyzývající k šestiměsíční pauze ve výcviku systémů umělé inteligence pokročilejších než GPT-4.
PUBLICITA
Dopis zdůrazňuje rostoucí obavy ze závodu ve vývoji stále výkonnější umělé inteligence a rizika, která to pro společnost představuje. Zatímco současné systémy umělé inteligence jako GPT-4 již mohou konkurovat lidem v obecných úkolech, dopis varuje před možným informačním zkreslením, automatizací práce a rizikem ztráty kontroly nad lidskou civilizací.
ChatGPT-4: nová verze má staré problémy
Altman souhlasil s některými aspekty otevřeného dopisu, konkrétně s ohledem na potřebu zvýšit bezpečnostní schopnosti ve vývoji AI. Uvedl, že OpenAI přijal rozsáhlá bezpečnostní opatření při výcviku GPT-4, včetně externích auditů a bezpečnostních kontrol.
„Děláme i jiné věci než GPT-4, o kterých si myslím, že mají všechny druhy bezpečnostních problémů, které je důležité řešit, a byly zcela vynechány z dopisu,“ řekl Altman.
SAN FRANCISCO, KALIFORNIE – 03. ŘÍJNA: OpenAI Spoluzakladatel a generální ředitel Sam Altman mluví na pódiu během TechCrunch Disrupt San Francisco 2019 v Moscone Convention Center 03. října 2019 v San Franciscu v Kalifornii. Steve Jennings/Getty Images pro TechCrunch/AFP (Foto: Steve Jennings / GETTY IMAGES SEVERNÍ AMERIKA / AFP)
Nesouhlasil však s navrhovanou měnovou pauzou ve vývoji umělé inteligence a upozornil na nedostatek technických specifik v dopise. Altman také vyvrátil tvrzení, že OpenAI trénoval GPT-5, zdůrazňoval důležitost přesného hodnocení a monitorování bezpečnosti AI.
PUBLICITA
Dále vysvětlil, že cílem OpenAI je podporovat globální zapojení do AI, motivovat jednotlivce a instituce k upgradu nebo přizpůsobení stávajících systémů k vytvoření požadované budoucnosti.
Nedávno jsme zde informovali Newsverse že OpenAI oznámila řadu iniciativ pro zvýšení bezpečnosti tohoto nástroje. Společnost mápromevaše provést důkladné testování, získat zpětnou vazbu od externích odborníků a spolupracovat s vládami na vývoji účinných předpisů.
