A OpenAI anunciou na última terça-feira (16) a formação de uma nova equipe dedicada a integrar a opinião pública no desenvolvimento e comportamento de seus modelos de inteligência artificial (IA).
Curto News/Bing Image Creator
A Equipe de Alinhamento Coletivo é um resultado direto de um programa de subsídios iniciado pela OpenAI em maio, que concedeu €1 milhão a dez projetos. Esses projetos tinham como foco experimentar “inputs democráticos para a inteligência artificial (IA)“, uma abordagem inovadora com o objetivo de incorporar uma variedade mais ampla de perspectivas e preocupações na governança da IA.
A equipe consiste em um grupo diversificado de pesquisadores e engenheiros encarregados de criar sistemas que incluam ativamente a contribuição do público. Essa abordagem busca enfrentar uma variedade de desafios urgentes, como a divisão digital, grupos polarizados e a representação de vozes diversas no desenvolvimento de IA.
Ao interagir com consultores externos e equipes de concessões, a Equipe de Alinhamento Coletivo planeja executar programas piloto que testem a integração da opinião pública nos mecanismos de direção de modelos de IA.
Essa iniciativa está alinhada com o compromisso da OpenAI com um processo democrático na definição dos princípios orientadores dos sistemas de IA.
Conforme declarou em seu blog, a OpenAI define um processo democrático como aquele “envolvendo um grupo amplamente representativo de pessoas que trocam opiniões, participam de discussões deliberativas e decidem resultados por meio de um processo de tomada de decisão transparente”.
Um dos aspectos-chave desta iniciativa é sua abrangência global. Ao conceder subsídios em todo o mundo, a OpenAI visa reunir uma ampla gama de opiniões e insights, enriquecendo assim o processo de desenvolvimento de IA com perspectivas diversas. Essa abordagem também aborda crescentes preocupações sobre o uso de IA na elaboração de políticas e a necessidade de transparência na aplicação da IA em processos democráticos.
Além disso, a OpenAI se compromete em compartilhar o código e resumos do trabalho do programa de concessão. Ao disponibilizar esses recursos, a empresa busca fomentar um diálogo mais inclusivo e informado sobre a IA, possibilitando uma participação mais ampla na formação do futuro dessa tecnologia.
Leia também:
Este post foi modificado pela última vez em 19 de janeiro de 2024 11:06
A inteligência artificial (IA) está transformando rapidamente a medicina. Sistemas capazes de analisar exames de…
A Organização Mundial da Saúde reuniu ministros, autoridades governamentais e especialistas de 37 países em…
A inteligência artificial (IA) já começa a transformar hospitais, consultórios e sistemas de saúde, assumindo…
A OpenAI apresentou oficialmente o GPT-5.6, sua mais nova geração de modelos de inteligência artificial…
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…