Quem participará da cúpula de segurança de IA do Reino Unido – e o que discutirão?

Líderes globais, executivos de tecnologia e especialistas do setor – incluindo Elon Musk – irão se reunir na quarta (1º) e quinta-feira (2) no Reino Unido, para uma cúpula histórica sobre segurança em inteligência artificial (IA).

Publicado por

Isabella Caminoto

31 de outubro de 2023 16:48

Cúpula de segurança de IA do Reino Unido

O que a cúpula discutirá?

A cúpula de segurança analisará os sistemas de inteligência artificial de ponta, que o governo do Reino Unido descreve como modelos “altamente capazes”, pois podem executar uma ampla variedade de tarefas que igualam ou excedem o desempenho da IA mais avançada disponível atualmente.

Um exemplo desses sistemas, de acordo com um documento governamental divulgado na semana passada, é a tecnologia de “modelo de linguagem grande” que sustenta ferramentas de IA como o ChatGPT e o Bard.

O que é um modelo de linguagem grande (LLM)? | Glossário do Newsverso

Um modelo de linguagem grande é um sistema de inteligência artificial projetado para compreender e gerar texto em linguagem natural.

Mas a principal preocupação a ser discutida na cúpula é o futuro: o poder dos modelos que serão lançados nos próximos anos. Como podem ser testados e monitorizados para garantir que não causam danos?

Quem estará presente?

Autoridades como o primeiro-ministro do Reino Unido, Rishi Sunak, a vice-presidente dos EUA, Kamala Harris, a presidente da Comissão Europeia, Ursula von der Leyen, e a primeira-ministra italiana, Giorgia Meloni.

A indústria de tecnologia será representada por executivos de empresas como a unidade de IA do Google, Google DeepMind, o desenvolvedor do ChatGPT, OpenAI, e a Meta de Mark Zuckerberg.

Quem também confirmou presença foi o bilionário da tecnologia e dono da Tesla, SpaceX e X, Elon Musk.

O que está previsto na programação?

No primeiro dia, a cúpula analisará riscos como as ameaças à segurança nacional e a ameaça a nível existencial de sistemas que escapam do controle humano. No entanto, num aceno àqueles que alertaram que as ameaças a longo prazo estão ofuscando os problemas imediatos – como as deepfakes produzidas pela IA – haverá uma discussão sobre “questões que incluem a perturbação eleitoral, a erosão da confiança social e o agravamento das desigualdades globais”. Também será abordado o lado positivo da IA, tal como a sua potencial utilização na educação.

A IA generativa no ambiente educacional: proibir ou institucionalizar?

A tecnologia e a sua evolução veloz reconfiguram a textura do nosso quotidiano. Com tais ferramentas – potentes, capazes de remodelar a nossa existência e interações – o peso da responsabilidade aumenta. No universo da Inteligência Artificial generativa (IA), essa responsabilidade também é um ”fardo coletivo”, para instituições, governos, empresas e pessoas.

Separadamente, Kamala Harris fará um discurso expondo com mais detalhes a abordagem do governo Biden em relação à IA.

Biden ordena que empresas de tecnologia compartilhem resultados de testes de segurança de IA com o governo dos EUA

As empresas de tecnologia serão obrigadas a compartilhar os resultados dos testes dos seus sistemas de inteligência artificial (IA) com o governo dos Estados Unidos antes de serem divulgados. É o que determina uma ordem executiva emitida pela Casa Branca nesta segunda-feira (30).

No segundo dia, Sunak se reunirá com um grupo menor de representantes de governos, empresas e especialistas estrangeiros para discutir quais medidas concretas podem ser tomadas para lidar com os riscos de segurança da IA. Será proposta a criação de um equivalente em IA do Painel Intergovernamental sobre Alterações Climáticas, que produziria um relatório anual sobre a evolução da tecnologia e os riscos associados.

O que é provável que a cúpula alcance?

Não produzirá um órgão regulador formal sobre IA. Mas pode estabelecer um consenso a respeito dos riscos causados pelo desenvolvimento irrestrito da IA e a melhor forma de mitigá-los.

O governo do Reino Unido pretende que esta seja a primeira de uma série de cúpulas internacionais sobre IA, seguindo o modelo estabelecido pelas conferências do G7, G20 e Cop.

Leia também:

IA e gênero: por que a inteligência artificial costuma ter traços femininos?

A inteligência artificial (IA) tem gênero? À primeira vista, a resposta é não. No entanto, certos tipos de IA, como os assistentes digitais, muitas vezes apresentam características ditas femininas. Por que os programadores fazem esta escolha e, mais importante, quais são as consequências?

Este post foi modificado pela última vez em %s = human-readable time difference 16:50

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.