AI Safety Summit 2024: Verpflichtungen, Netzwerke und Leitlinien für die Zukunft der Technologie

Die vom Vereinigten Königreich und Südkorea gemeinsam organisierte Veranstaltung Zweiter KI-Sicherheitsgipfel Es dauerte zwei Tage und endete an diesem Mittwoch (22). Mit Agenden, die sich auf Inklusion, Vielfalt, Innovation und sichere Nutzung konzentrieren künstliche (IA) legte die Veranstaltung neue Leitlinien für einige ihrer Diskussionen auf der Tagesordnung fest.

An diesem Mittwoch unterzeichneten 16 Technologieunternehmen im Rahmen von Diskussionen über Arbeitssicherheit, Urheberrecht und technologische Gleichstellung eine Verpflichtungsvereinbarung für eine verantwortungsvolle KI-Entwicklung.

Die führenden Unternehmen in EUAAls Google, Meta, Microsoft e OpenAI, zusammen mit Unternehmen aus der China, Südkorea e Emirados Arabes Unidos, waren an dieser Initiative beteiligt.

Sie wurden durch eine umfassende Erklärung der wichtigsten G7-Länder unterstützt Europäische Union, aus Singapur, Australien und Südkorea in einem virtuellen Treffen unter dem Vorsitz des britischen Premierministers Rishi Sunak und des südkoreanischen Präsidenten Yoon Suk Yeol.

Das südkoreanische Präsidialamt betonte, dass die Nationen vereinbart hätten, der KI-Sicherheit, Innovation und Inklusivität Priorität einzuräumen.

„Wir müssen die Sicherheit der KI gewährleisten, um das Wohlergehen und die Demokratie unserer Gesellschaft zu schützen“, sagte Yoon und wies auf Bedenken hinsichtlich Risiken wie Deepfake hin.

Die Teilnehmer betonten die Bedeutung der Interoperabilität zwischen Governance-Strukturen, Plänen für ein Netzwerk von Sicherheitsinstituten und der Zusammenarbeit mit internationalen Gremien, um bei einem ersten Treffen auf der Vereinbarung aufzubauen und Risiken besser zu begegnen.

Unternehmen haben auchpromeSicherheitsprobleme, darunter das von Alibaba unterstützte Zhipu.ai und Tencent von China, Meituan und Xiaomi sowie dem UAE Institute of Technology Innovation, Amazon, IBM e Samsung Elektronik.

Sie sind dabeipromeSie mussten Sicherheitsrahmen veröffentlichen, um Risiken zu messen, Modelle zu vermeiden, bei denen Risiken nicht ausreichend gemindert werden konnten, und Governance und Transparenz gewährleisten.

„Es ist von entscheidender Bedeutung, eine internationale Einigung über die ‚roten Linien‘ zu erzielen, an denen die KI-Entwicklung verläuftaria „Inakzeptabel gefährlich für die öffentliche Sicherheit“, antwortete Beth Barnes, Gründerin von METR, einer Gruppe, die sich für die Sicherheit von KI-Modellen einsetzt, auf die Erklärung.

Der Informatiker Yoshua Bengio, bekannt als „Pate der KI“, begrüßte die Zusagen, wies jedoch darauf hin, dass freiwillige Zusagen mit einer Regulierung einhergehen müssten.

Ebenfalls am Mittwoch wurde eine separate Zusage von 14 Unternehmen unterzeichnet, darunter auch von Alphabet Google, Microsoft, OpenAI und sechs südkoreanische Unternehmen, Methoden wie Wasserzeichen zu verwenden, um KI-generierte Inhalte zu identifizieren und die Schaffung von Arbeitsplätzen und Hilfe für sozial benachteiligte Gruppen sicherzustellen.

„Zusammenarbeit ist keine Option, sondern eine Notwendigkeit“, sagte Lee Jong-Ho, Südkoreas Minister für Wissenschaft und Informations- und Kommunikationstechnologie, in einem Interview mit Reuters.

„Der Gipfel in Seoul hat die Diskussionen über KI-Sicherheit weiter geprägt und Debatten über Innovation und Inklusivität hinzugefügt“, fügte Lee hinzu und sagte, er hoffe, dass die Diskussionen beim nächsten Gipfel eine stärkere Zusammenarbeit zwischen KI-Sicherheitsinstituten beinhalten werden.

Internationales Engagement

Zehn Länder und die Europäische Union werden weitere Sicherheitsinstitute für künstliche Intelligenz aufbauen, um die Forschung auf Standards und Tests für maschinelles Lernen abzustimmen.

Das internationale Netzwerk wurde während des AI-Sicherheitsgipfels in Seoul, Südkorea, vereinbart, bei dem sich führende Politiker der Welt virtuell trafen.

Es wird Wissenschaftler öffentlich geförderter Institutionen wie dem britischen Institute for AI Safety zusammenbringen, um Informationen über die Risiken, Fähigkeiten und Grenzen von KI-Modellen auszutauschen. Die Institutionengruppe wird auch „spezifische KI-Sicherheitsvorfälle“ überwachen, sobald diese auftreten.

„KI ist eine äußerst spannende Technologie … aber um die Vorteile zu nutzen, müssen wir sicherstellen, dass sie sicher ist“, sagte der britische Premierminister Rishi Sunak in einer Pressemitteilung.

„Deshalb freue ich mich, dass wir uns heute auf ein Netzwerk von KI-Sicherheitsinstituten geeinigt haben.“

Zu den Unterzeichnern dieses neuen Netzwerks von KI-Sicherheitsinstituten gehören die EU, Frankreich, Deutschland, Italien, das Vereinigte Königreich, die Vereinigten Staaten, Singapur, Japan, Südkorea, Australien und Kanada.

Das Vereinigte Königreich behauptet, im vergangenen November mit einer Anfangsinvestition von 100 Millionen Pfund (117,4 Millionen Euro) das weltweit erste KI-Sicherheitsinstitut gegründet zu haben.

Seitdem haben andere Länder wie die Vereinigten Staaten, Japan und Singapur ihre eigenen eingeführt.

Die Mission des UK AI Safety Institute besteht darin, „Überraschungen für Großbritannien und die Menschheit durch schnelle und unerwartete Fortschritte in der KI zu minimieren“, heißt es in einer Pressemitteilung der britischen Regierung vom November 2023.

Die EU hat nun die „EU-KI-Gesetz', bereitet die Eröffnung seines KI-Büros vor. Die Europäische Kommission hatte zuvor in einem Interview erklärt, dass sie den Leiter des neuen Büros einstellen werde, sobald das Gesetz vollständig verabschiedet sei.

Ursula von der Leyen, Präsidentin der Europäischen Kommission, sagte auf dem KI-Sicherheitsgipfel im letzten Jahr, dass das KI-Büro eine „globale Berufung“ haben würde und sollte, damit es „mit ähnlichen Einrichtungen auf der ganzen Welt zusammenarbeiten“ könne.

Die Staats- und Regierungschefs unterzeichneten während dieser Konferenz auch die umfassendere Seoul-Erklärung, in der die Bedeutung einer „verstärkten internationalen Zusammenarbeit“ für die Entwicklung einer vertrauenswürdigen, menschenzentrierten KI betont wird.

Lesen Sie auch: