Quem participará da cúpula de segurança de IA do Reino Unido – e o que discutirão?

O que a cúpula discutirá?

A cúpula de segurança analisará os sistemas de inteligência artificial de ponta, que o governo do Reino Unido descreve como modelos “altamente capazes”, pois podem executar uma ampla variedade de tarefas que igualam ou excedem o desempenho da IA ​​mais avançada disponível atualmente.

Um exemplo desses sistemas, de acordo com um documento governamental divulgado na semana passada, é a tecnologia de “modelo de linguagem grande” que sustenta ferramentas de IA como o ChatGPT e o Bard. 

O que é um modelo de linguagem grande (LLM)? | Glossário do Newsverso

Um modelo de linguagem grande é um sistema de inteligência artificial projetado para compreender e gerar texto em linguagem natural.

Mas a principal preocupação a ser discutida na cúpula é o futuro: o poder dos modelos que serão lançados nos próximos anos. Como podem ser testados e monitorizados para garantir que não causam danos?

Quem estará presente?

Autoridades como o primeiro-ministro do Reino Unido, Rishi Sunak, a vice-presidente dos EUA, Kamala Harris, a presidente da Comissão Europeia, Ursula von der Leyen, e a primeira-ministra italiana, Giorgia Meloni.

A indústria de tecnologia será representada por executivos de empresas como a unidade de IA do Google, Google DeepMind, o desenvolvedor do ChatGPT, OpenAI, e a Meta de Mark Zuckerberg. 

Quem também confirmou presença foi o bilionário da tecnologia e dono da Tesla, SpaceX e X, Elon Musk.

O que está previsto na programação?

No primeiro dia, a cúpula analisará riscos como as ameaças à segurança nacional e a ameaça a nível existencial de sistemas que escapam do controle humano. No entanto, num aceno àqueles que alertaram que as ameaças a longo prazo estão ofuscando os problemas imediatos – como as deepfakes produzidas pela IA – haverá uma discussão sobre “questões que incluem a perturbação eleitoral, a erosão da confiança social e o agravamento das desigualdades globais”. Também será abordado o lado positivo da IA, tal como a sua potencial utilização na educação.

A IA generativa no ambiente educacional: proibir ou institucionalizar?

A tecnologia e a sua evolução veloz reconfiguram a textura do nosso quotidiano. Com tais ferramentas – potentes, capazes de remodelar a nossa existência e interações – o peso da responsabilidade aumenta. No universo da Inteligência Artificial generativa (IA), essa responsabilidade também é um ”fardo coletivo”, para instituições, governos, empresas e pessoas.

Separadamente, Kamala Harris fará um discurso expondo com mais detalhes a abordagem do governo Biden em relação à IA. 

Biden ordena que empresas de tecnologia compartilhem resultados de testes de segurança de IA com o governo dos EUA

As empresas de tecnologia serão obrigadas a compartilhar os resultados dos testes dos seus sistemas de inteligência artificial (IA) com o governo dos Estados Unidos antes de serem divulgados. É o que determina uma ordem executiva emitida pela Casa Branca nesta segunda-feira (30).

No segundo dia, Sunak se reunirá com um grupo menor de representantes de governos, empresas e especialistas estrangeiros para discutir quais medidas concretas podem ser tomadas para lidar com os riscos de segurança da IA. Será proposta a criação de um equivalente em IA do Painel Intergovernamental sobre Alterações Climáticas, que produziria um relatório anual sobre a evolução da tecnologia e os riscos associados.

O que é provável que a cúpula alcance?

Não produzirá um órgão regulador formal sobre IA. Mas pode estabelecer um consenso a respeito dos riscos causados pelo desenvolvimento irrestrito da IA ​​e a melhor forma de mitigá-los. 

O governo do Reino Unido pretende que esta seja a primeira de uma série de cúpulas internacionais sobre IA, seguindo o modelo estabelecido pelas conferências do G7, G20 e Cop. 

Leia também:

IA e gênero: por que a inteligência artificial costuma ter traços femininos?

A inteligência artificial (IA) tem gênero? À primeira vista, a resposta é não. No entanto, certos tipos de IA, como os assistentes digitais, muitas vezes apresentam características ditas femininas. Por que os programadores fazem esta escolha e, mais importante, quais são as consequências?