EUA e Reino Unido anunciam parceria em segurança e testes de IA

Os Estados Unidos e o Reino Unido anunciaram na segunda-feira (2) uma nova parceria em segurança da inteligência artificial, em meio a crescentes preocupações com as próximas gerações de IA.

A secretária de Comércio dos EUA, Gina Raimondo, e a secretária de Tecnologia britânica, Michelle Donelan, assinaram um memorando de entendimento em Washington para desenvolver conjuntamente testes avançados de modelos de IA, seguindo compromissos anunciados em um AI Safety Summit (Cúpula de Segurança de IA) em Bletchley Park, em novembro passado.

“Todos sabemos que a IA é a tecnologia definidora de nossa geração”, disse Raimondo. “Esta parceria acelerará o trabalho de ambos os nossos institutos em todo o espectro para lidar com os riscos de segurança nacional e as preocupações da sociedade em geral.”

O Reino Unido e os Estados Unidos estão entre os países que estão estabelecendo institutos governamentais de segurança de IA.

O Reino Unido anunciou em outubro que seu instituto examinaria e testaria novos tipos de IA, enquanto os Estados Unidos informaram em novembro que estavam lançando seu próprio instituto de segurança para avaliar os riscos dos chamados modelos de IA de fronteira e agora estão trabalhando com 200 empresas e entidades.

Sob a parceria formal, o Reino Unido e os Estados Unidos planejam realizar pelo menos um exercício conjunto de teste em um modelo de acesso público e estão considerando explorar intercâmbios de pessoal entre os institutos. Ambos estão trabalhando para desenvolver parcerias semelhantes com outros países para promover a segurança da IA.

“Este é o primeiro acordo desse tipo em qualquer lugar do mundo”, disse Donelan. “A IA já é uma força extraordinária para o bem em nossa sociedade e tem um vasto potencial para enfrentar alguns dos maiores desafios do mundo, mas somente se formos capazes de controlar esses riscos.”

A IA generativa, que pode criar textos, fotos e vídeos em resposta a prompts abertos, gerou empolgação e também receios de que possa tornar alguns empregos obsoletos, prejudicar eleições e potencialmente superar os humanos com efeitos catastróficos.

Em entrevista conjunta à Reuters na segunda-feira, Raimondo e Donelan disseram que uma ação conjunta urgente é necessária para lidar com os riscos da IA.

“O tempo é essencial porque o próximo conjunto de modelos está prestes a ser lançado, e será muito, muito mais capaz”, disse Donelan. “Temos um foco nas áreas que estamos dividindo e conquistando, e realmente nos especializando.”

Raimondo disse que levantaria questões de IA em uma reunião do Conselho de Comércio e Tecnologia EUA-UE na Bélgica na quinta-feira (4).

O governo Biden planeja anunciar em breve adições à sua equipe de IA, disse Raimondo. “Estamos reunindo todos os recursos do governo dos EUA.”

Ambos os países planejam compartilhar informações importantes sobre capacidades e riscos associados a modelos e sistemas de IA, além de pesquisas técnicas sobre segurança de IA.

Leia também: