OpenAI lançará novas ferramentas para impedir a desinformação eleitoral

A OpenAI, líder em inteligência artificial (IA), publicou uma postagem em seu blog buscando abordar os temores de que sua tecnologia possa interferir nas eleições, enquanto mais de um terço do mundo se prepara para ir às urnas este ano.

Publicado por

Juliana Caminoto

16 de janeiro de 2024 17:22

Reprodução: Curto News/ Bing

O uso de IA para interferir na integridade eleitoral tem sido uma preocupação desde que a empresa apoiada pela Microsoft lançou dois produtos: o ChatGPT, que pode imitar a escrita humana de forma convincente, e DALL-E, cuja tecnologia pode ser usada para criar imagens “deepfakes“.

Os preocupados incluem o próprio CEO da OpenAI, Sam Altman, que em maio do ano passado disse que estava “nervoso” com a capacidade da IA generativa de comprometer a integridade eleitoral através de “desinformação interativa individual”.

IA ainda precisa melhorar para fornecer informações precisas sobre eleições, revela estudo

A inteligência artificial (IA) tem o potencial de revolucionar a forma como nos informamos sobre eleições. No entanto, um estudo recente descobriu que os chatbots de IA ainda fornecem respostas imprecisas em uma em cada três perguntas básicas sobre candidatos, pesquisas, escândalos e pleitos eleitorais.

A OpenAI disse está trabalhando com a Associação Nacional de Secretários de Estado, uma organização que se concentra na promoção de processos democráticos eficazes – como as eleições – para resguardar as eleições presidenciais que acontecerão este ano nos Estados Unidos.

O ChatGPT direcionará os usuários para o CanIVote.org quando forem feitas certas perguntas relacionadas às eleições, disse a OpenAI.

A empresa também afirmou que está trabalhando para tornar mais óbvio quando as imagens são geradas por IA usando DALL-E, e está planejando colocar um ícone “cr” nas imagens para indicar que foram geradas pela tecnologia.

DALL-E 3: Gere imagens apenas com uma descrição textual

O DALL-E 3 é um modelo de inteligência artificial (IA) desenvolvido pela OpenAI que pode gerar imagens a partir de descrições textuais. O DALL-E 3 é treinado em um enorme conjunto de dados de imagens e texto, o que lhe permite entender e gerar uma ampla gama de imagens, incluindo imagens fotorrealistas,

Em sua postagem no blog, a OpenAI enfatizou que suas políticas proíbem que sua tecnologia seja usada de maneiras que ela identificou como potencialmente abusivas, como criar chatbots fingindo ser pessoas reais ou desencorajar a votação. Também proíbe o DALL-E de criar imagens de pessoas reais, incluindo candidatos políticos, relatou.

Leia também:

Austrália pode pedir às empresas de tecnologia que rotulem o conteúdo gerado por IA

As empresas de tecnologia podem ser obrigadas a colocar marcas d’água ou rotular o conteúdo gerado por inteligência artificial (IA), como o ChatGPT, à medida que o governo australiano luta com produtos de IA de “alto risco” que evoluem mais rapidamente do que a legislação.

Este post foi modificado pela última vez em 16 de janeiro de 2024 17:22

Juliana Caminoto

Advogada com especialização em compliance e auditoria, estou sempre conectada às redes sociais e em busca de novos desafios. Sou mãe de pet e amo viajar.