Próximos passos para segurança em IA: O que esperar do AI Safety Summit 2024

Terá início, na próxima terça-feira (21), a Segunda Cúpula Global de Segurança em IA – que será realizada em Seul na Coreia do Sul e contará com a República da Coreia do Sul e o Reino Unido como anfitriões. A cúpula acontecerá no momento em que governos do mundo todo correm para acompanhar o ritmo frenético de desenvolvimento das tecnologias de inteligência artificial (IA) e ainda manter uma vigília sobre possíveis riscos.

Após sua edição anterior, em novembro de 2023, o escopo de desafios a serem discutidos ao longo dos dias de evento foi expandido – buscando focar em iniciativas de inovação, inclusão e uso seguro de IA.

Foram convidados os líderes do G7, Austrália e Singapura, além da confirmação da presença da China na sessão ministerial do evento.

No primeiro dia de evento será realizada uma sessão virtual para os líderes do summit chamada “Cúpula para construir segurança de IA: em direção a um futuro inovador e inclusivo”. 

A segunda etapa do evento será realizada no dia 22 foi nomeada “Ações para fortalecer segurança de IA/Abordagens para sustentabilidade e resiliência”. Esta etapa toma como ponto de partida para as suas discussões o lançamento de modelos de IA cada vez mais avançados, além de esforços constantes de governos e organizações em iniciativas de tecnologia para enfatizar a necessidade de discussões sobre segurança por meio de cooperação internacional.

Os participantes também trocaram perspectivas sobre o fortalecimento da resiliência da sociedade contra os impactos potencialmente negativos da IA, em áreas como uso de energia, impacto nos mercados de trabalho, proliferação de desinformação e desinformação. Também será colocada em pauta a busca por um consenso internacional para os riscos relacionados à IA e a necessidade de soluções para conter possíveis efeitos colaterais na sociedade e nas economias pelo abuso dessas tecnologias.

A edição de novembro do Summit foi marcada pelos embates entre Sam Altman e Elon Musk contra alguns de seus críticos, além da assinatura por parte da China da “Declaração de Bletchley”, que marcou um comprometimento da nação em gerenciar riscos de IA ao lado de outras grandes potências.

O Summit será realizado em um período de pouca comunicação clara entre potências como Rússia, Estados Unidos e China sobre o alastramento das tecnologias de IA, inclusive com insinuações crescentes do governo americano sobre a imposição de sanções ao redor de softwares para modelos como ChatGPT em uma nova medida regulatória no mercado. 

Recentemente a Casa Branca também levantou preocupações sobre o “uso indevido” dessas tecnologias por parte da Rússia e da China, principalmente em temores relacionados à manipulação eleitoral.

Outro fator importante marca a realização da cúpula: o evento conta com uma lista de participantes consideravelmente menor em relação com a sua edição anterior. No ano passado, uma verdadeira lista de líderes mundiais, executivos corporativos e especialistas acadêmicos se reuniram no Bletchley Park, na Grã-Bretanha, para o primeiro Summit Global de Segurança da inteligência artificial (IA) – na esperança de alcançar consenso sobre a regulamentação de uma tecnologia que alguns alertavam representar uma ameaça à humanidade.

O governo francês, por exemplo, adiou sua participação para 2025. O Departamento de Estado dos Estados Unidos confirmou que enviaria representantes para Seul, mas não disse quem. Os governos do Canadá e dos Países Baixos disseram que não iriam participar. 

O governo do Brasil disse que ainda está considerando seu convite, citando um conflito com um evento do G20 que o país está hospedando na mesma semana.

O governo suíço disse que o embaixador Benedikt Weschsler, chefe de digitalização do departamento de relações exteriores, participaria pessoalmente.

Em meio à um frenesi tecnológico, comunicações difusas entre potências, uso de dados restritos, manipulação de imagens, influência em disputas políticas, desenvolvimento sustentável e segurança de dados são alguns dos pontos que podem permear os debates realizado pela cúpula.

Leia também: