OpenAI busca integrar insights públicos no desenvolvimento da IA

A Equipe de Alinhamento Coletivo é um resultado direto de um programa de subsídios iniciado pela OpenAI em maio, que concedeu €1 milhão a dez projetos. Esses projetos tinham como foco experimentar “inputs democráticos para a inteligência artificial (IA)“, uma abordagem inovadora com o objetivo de incorporar uma variedade mais ampla de perspectivas e preocupações na governança da IA.

A equipe consiste em um grupo diversificado de pesquisadores e engenheiros encarregados de criar sistemas que incluam ativamente a contribuição do público. Essa abordagem busca enfrentar uma variedade de desafios urgentes, como a divisão digital, grupos polarizados e a representação de vozes diversas no desenvolvimento de IA.

Ao interagir com consultores externos e equipes de concessões, a Equipe de Alinhamento Coletivo planeja executar programas piloto que testem a integração da opinião pública nos mecanismos de direção de modelos de IA.

Essa iniciativa está alinhada com o compromisso da OpenAI com um processo democrático na definição dos princípios orientadores dos sistemas de IA.

OpenAI lançará novas ferramentas para impedir a desinformação eleitoral

A OpenAI, líder em inteligência artificial (IA), publicou uma postagem em seu blog buscando abordar os temores de que sua tecnologia possa interferir nas eleições, enquanto mais de um terço do mundo se prepara para ir às urnas este ano.

Conforme declarou em seu blog, a OpenAI define um processo democrático como aquele “envolvendo um grupo amplamente representativo de pessoas que trocam opiniões, participam de discussões deliberativas e decidem resultados por meio de um processo de tomada de decisão transparente”.

Um dos aspectos-chave desta iniciativa é sua abrangência global. Ao conceder subsídios em todo o mundo, a OpenAI visa reunir uma ampla gama de opiniões e insights, enriquecendo assim o processo de desenvolvimento de IA com perspectivas diversas. Essa abordagem também aborda crescentes preocupações sobre o uso de IA na elaboração de políticas e a necessidade de transparência na aplicação da IA em processos democráticos.

Além disso, a OpenAI se compromete em compartilhar o código e resumos do trabalho do programa de concessão. Ao disponibilizar esses recursos, a empresa busca fomentar um diálogo mais inclusivo e informado sobre a IA, possibilitando uma participação mais ampla na formação do futuro dessa tecnologia.

Leia também:

Nova IA da DeepMind é capaz de resolver problemas de geometria