Während einer Rede am MIT, Sam Altman, Vorstandsvorsitzender von OpenAI, sprach über den offenen Brief, der eine Pause bei der Weiterentwicklung der KI-Technologie fordert. Altman bestätigte, dass das Unternehmen GPT-5, das als Nachfolger des GPT-4-Sprachmodells gilt, nicht trainiert.
Die Erklärung wurde am vergangenen Donnerstag (13) abgegeben.
Letzten Monat haben Tausende von Spitzentechnologieexperten, darunter Elon Musk und Steve Wozniak unterzeichneten einen offenen Brief, in dem sie eine sechsmonatige Pause beim Training von KI-Systemen forderten, die fortgeschrittener als GPT-4 sind.
WERBUNG
Der Brief unterstreicht die wachsende Besorgnis über den Wettlauf um die Entwicklung immer leistungsfähigerer KI und die damit verbundenen Risiken für die Gesellschaft. Während moderne KI-Systeme wie GPT-4 bei allgemeinen Aufgaben bereits mit Menschen konkurrieren können, warnt der Brief vor möglicher Informationsverzerrung, Jobautomatisierung und dem Risiko, die Kontrolle über die menschliche Zivilisation zu verlieren.
ChatGPT-4: Neue Version hat alte Probleme
Altman stimmte einigen Aspekten des offenen Briefs zu, insbesondere hinsichtlich der Notwendigkeit, die Sicherheitsfunktionen bei der KI-Entwicklung zu erhöhen. Er gab an, dass die OpenAI hat beim Training von GPT-4 umfangreiche Sicherheitsmaßnahmen ergriffen, darunter externe Audits und Sicherheitsüberprüfungen.
„Wir machen neben GPT-4 noch andere Dinge, die meiner Meinung nach alle Arten von Sicherheitsproblemen haben, die angegangen werden müssen und die in dem Brief überhaupt nicht berücksichtigt wurden“, sagte Altman.
SAN FRANCISCO, KALIFORNIEN – 03. OKTOBER: OpenAI Co-Founder & CEO Sam Altman spricht auf der Bühne während der TechCrunch Disrupt San Francisco 2019 im Moscone Convention Center am 03. Oktober 2019 in San Francisco, Kalifornien. Steve Jennings/Getty Images für TechCrunch/AFP (Foto von Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Er war jedoch mit der vorgeschlagenen monetären Pause bei der KI-Entwicklung nicht einverstanden und wies auf den Mangel an technischer Spezifität in dem Schreiben hin. Altman wies auch die Behauptung zurück, dass die OpenAI trainierte GPT-5 und betonte die Bedeutung einer genauen KI-Sicherheitsbewertung und -überwachung.
WERBUNG
Er erklärte weiter, dass das Ziel von OpenAI besteht darin, das globale Engagement für KI zu fördern und Einzelpersonen und Institutionen dazu zu bewegen, bestehende Systeme zu aktualisieren oder anzupassen, um die gewünschte Zukunft zu schaffen.
Wir haben hier kürzlich darüber berichtet Newsverse dass die OpenAI hat eine Reihe von Initiativen angekündigt, um das Tool sicherer zu machen. Das Unternehmen hatpromeEs liegt an Ihnen, gründliche Tests durchzuführen, Feedback von externen Experten einzuholen und mit Regierungen zusammenzuarbeiten, um wirksame Vorschriften zu entwickeln.
