OpenAI busca integrar insights públicos no desenvolvimento da IA

A Equipe de Alinhamento Coletivo é um resultado direto de um programa de subsídios iniciado pela OpenAI em maio, que concedeu €1 milhão a dez projetos. Esses projetos tinham como foco experimentar “inputs democráticos para a inteligência artificial (IA)“, uma abordagem inovadora com o objetivo de incorporar uma variedade mais ampla de perspectivas e preocupações na governança da IA.

A equipe consiste em um grupo diversificado de pesquisadores e engenheiros encarregados de criar sistemas que incluam ativamente a contribuição do público. Essa abordagem busca enfrentar uma variedade de desafios urgentes, como a divisão digital, grupos polarizados e a representação de vozes diversas no desenvolvimento de IA.

Ao interagir com consultores externos e equipes de concessões, a Equipe de Alinhamento Coletivo planeja executar programas piloto que testem a integração da opinião pública nos mecanismos de direção de modelos de IA.

Essa iniciativa está alinhada com o compromisso da OpenAI com um processo democrático na definição dos princípios orientadores dos sistemas de IA. 

Conforme declarou em seu blog, a OpenAI define um processo democrático como aquele “envolvendo um grupo amplamente representativo de pessoas que trocam opiniões, participam de discussões deliberativas e decidem resultados por meio de um processo de tomada de decisão transparente”.

Um dos aspectos-chave desta iniciativa é sua abrangência global. Ao conceder subsídios em todo o mundo, a OpenAI visa reunir uma ampla gama de opiniões e insights, enriquecendo assim o processo de desenvolvimento de IA com perspectivas diversas. Essa abordagem também aborda crescentes preocupações sobre o uso de IA na elaboração de políticas e a necessidade de transparência na aplicação da IA em processos democráticos. 

Além disso, a OpenAI se compromete em compartilhar o código e resumos do trabalho do programa de concessão. Ao disponibilizar esses recursos, a empresa busca fomentar um diálogo mais inclusivo e informado sobre a IA, possibilitando uma participação mais ampla na formação do futuro dessa tecnologia.

Leia também: