Tijdens een toespraak op MIT zei Sam Altman, directeur van OpenAI, sprak over de open brief waarin wordt opgeroepen tot een pauze in de vooruitgang van AI-technologie. Altman bevestigde dat het bedrijf geen GPT-5 traint, dat wordt beschouwd als de opvolger van het GPT-4-taalmodel.
De verklaring werd afgelopen donderdag (13) afgelegd.
Vorige maand hebben duizenden geavanceerde technologie-experts, waaronder Elon Musk en Steve Wozniak, ondertekenden een open brief waarin werd opgeroepen tot een pauze van zes maanden in het trainen van AI-systemen die geavanceerder zijn dan GPT-4.
PUBLICITEIT
De brief benadrukt de groeiende bezorgdheid over de race om steeds krachtigere AI te ontwikkelen en de risico's die dit met zich meebrengt voor de samenleving. Hoewel hedendaagse AI-systemen zoals GPT-4 al kunnen concurreren met mensen in algemene taken, waarschuwt de brief voor mogelijke informatiebias, taakautomatisering en het risico de controle over de menselijke beschaving te verliezen.
ChatGPT-4: nieuwe versie heeft oude problemen
Altman was het eens met sommige aspecten van de open brief, met name met betrekking tot de noodzaak om de beveiligingsmogelijkheden bij de ontwikkeling van AI te vergroten. Hij verklaarde dat de OpenAI heeft uitgebreide beveiligingsmaatregelen genomen bij het trainen van GPT-4, inclusief externe audits en veiligheidscontroles.
"We doen andere dingen naast GPT-4 waarvan ik denk dat ze allerlei beveiligingsproblemen met zich meebrengen die belangrijk zijn om aan te pakken en die volledig uit de brief zijn weggelaten", zei Altman.
SAN FRANCISCO, CALIFORNIË – 03 OKTOBER: OpenAI Medeoprichter en CEO Sam Altman spreekt op het podium tijdens TechCrunch Disrupt San Francisco 2019 in het Moscone Convention Center op 03 oktober 2019 in San Francisco, Californië. Steve Jennings/Getty Images voor TechCrunch/AFP (Foto door Steve Jennings / GETTY IMAGES NOORD-AMERIKA / AFP)
Hij was het echter niet eens met de voorgestelde monetaire pauze op de ontwikkeling van AI en merkte het gebrek aan technische specificiteit in de brief op. Altman weerlegde ook de bewering dat de OpenAI was GPT-5 aan het trainen, waarbij het belang van nauwkeurige AI-beveiligingsbeoordeling en -monitoring werd benadrukt.
PUBLICITEIT
Hij legde verder uit dat het doel van OpenAI is het aanmoedigen van de mondiale betrokkenheid bij AI, en het aanzetten van individuen en instellingen om bestaande systemen te upgraden of aan te passen om de gewenste toekomst te creëren.
Hierover berichtten wij onlangs Nieuwsvers dat het OpenAI heeft een reeks initiatieven aangekondigd om de tool veiliger te maken. Het bedrijf heeftpromehet is aan jou om grondige tests uit te voeren, feedback te vragen aan externe experts en samen te werken met overheden om effectieve regelgeving te ontwikkelen.
