A OpenAI anunciou na última terça-feira (16) a formação de uma nova equipe dedicada a integrar a opinião pública no desenvolvimento e comportamento de seus modelos de inteligência artificial (IA).
Curto News/Bing Image Creator
A Equipe de Alinhamento Coletivo é um resultado direto de um programa de subsídios iniciado pela OpenAI em maio, que concedeu €1 milhão a dez projetos. Esses projetos tinham como foco experimentar “inputs democráticos para a inteligência artificial (IA)“, uma abordagem inovadora com o objetivo de incorporar uma variedade mais ampla de perspectivas e preocupações na governança da IA.
A equipe consiste em um grupo diversificado de pesquisadores e engenheiros encarregados de criar sistemas que incluam ativamente a contribuição do público. Essa abordagem busca enfrentar uma variedade de desafios urgentes, como a divisão digital, grupos polarizados e a representação de vozes diversas no desenvolvimento de IA.
Ao interagir com consultores externos e equipes de concessões, a Equipe de Alinhamento Coletivo planeja executar programas piloto que testem a integração da opinião pública nos mecanismos de direção de modelos de IA.
Essa iniciativa está alinhada com o compromisso da OpenAI com um processo democrático na definição dos princípios orientadores dos sistemas de IA.
Conforme declarou em seu blog, a OpenAI define um processo democrático como aquele “envolvendo um grupo amplamente representativo de pessoas que trocam opiniões, participam de discussões deliberativas e decidem resultados por meio de um processo de tomada de decisão transparente”.
Um dos aspectos-chave desta iniciativa é sua abrangência global. Ao conceder subsídios em todo o mundo, a OpenAI visa reunir uma ampla gama de opiniões e insights, enriquecendo assim o processo de desenvolvimento de IA com perspectivas diversas. Essa abordagem também aborda crescentes preocupações sobre o uso de IA na elaboração de políticas e a necessidade de transparência na aplicação da IA em processos democráticos.
Além disso, a OpenAI se compromete em compartilhar o código e resumos do trabalho do programa de concessão. Ao disponibilizar esses recursos, a empresa busca fomentar um diálogo mais inclusivo e informado sobre a IA, possibilitando uma participação mais ampla na formação do futuro dessa tecnologia.
Leia também:
Este post foi modificado pela última vez em 19 de janeiro de 2024 11:06
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…
A inteligência artificial (IA) está transformando setores inteiros da economia, impulsionando avanços em saúde, educação,…