Anthropic toma medidas para combater desinformação eleitoral

Quando um usuário baseado nos EUA faz uma consulta ao Claude, o chatbot da Anthropic, sobre detalhes das eleições, um prompt aparece oferecendo um redirecionamento para o TurboVote. O TurboVote é um serviço da Democracy Works, uma entidade apartidária que oferece dados de votação atualizados e confiáveis.

Claude 2: chatbot IA que promete ser seguro e imparcial

A Anthropic, uma empresa de inteligência artificial com sede em San Francisco, EUA, lançou no dia 11 o Claude 2, um novo chatbot que pode resumir grandes blocos de texto. Além disso, o Claude 2 é treinado a partir de fontes extraídas da Declaração Universal dos Direitos Humanos. Esses e outros fatores diferem a ferramenta de outras populares.

A introdução do Prompt Shield responde diretamente às limitações observadas no Claude, principalmente suas atualizações infrequentes sobre questões políticas, o que o torna suscetível a gerar conteúdo impreciso – ou “alucinações” – sobre eleições.

A integridade das eleições é a pedra angular da democracia, uma verdade que impulsionou a Anthropic para a vanguarda na luta contra a desinformação. Compreendendo o potencial da desinformação para minar a confiança pública e o processo democrático, a Anthropic anunciou o lançamento de novos recursos projetados para garantir que o público receba informações precisas e autorizadas sobre eleições.

Big Techs prometem combater IA ‘enganosa’ nas eleições dos EUA

A maioria das maiores empresas de tecnologia do mundo, incluindo Amazon, Google e Microsoft, concordaram em enfrentar o que chamam de ‘inteligência artificial (IA) enganosa’ em eleições dos Estados Unidos.

Ao priorizar conteúdo de fontes verificadas e autorizadas, a Anthropic visa fornecer aos usuários informações factuais e imparciais sobre votação, datas de eleição e outros dados relacionados. Esta estratégia trata de filtrar a desinformação e elevar a qualidade das informações acessíveis ao público.

A abordagem da Anthropic para combater a desinformação eleitoral é ao mesmo tempo inovadora e abrangente. A empresa aproveitou sua experiência em inteligência artificial para desenvolver algoritmos que podem identificar e mitigar de forma mais eficaz conteúdo potencialmente enganoso. Esses algoritmos são projetados para reconhecer as nuances da desinformação, distinguindo entre falsidades e informações enganosas, garantindo assim que imprecisões não influenciem o público.

Empresa de IA considera proibir a criação de imagens políticas nas eleições de 2024

A empresa de geração de imagens de inteligência artificial (IA) Midjourney está considerando proibir as pessoas de usar seu software para fazer imagens políticas de Joe Biden e Donald Trump como parte de um esforço para evitar ser usado para distrair ou desinformar sobre as eleições presidenciais de 2024 nos EUA.

As medidas tomadas pela Anthropic destacam o papel fundamental das empresas de tecnologia no processo democrático moderno.

Leia também:

Google propõe aumento salarial de 300% para reter talentos de IA

O setor de tecnologia está agitado por relatos de que o Google fez uma jogada extraordinária, propondo um aumento salarial de 300% a um funcionário tentado pela perspectiva de se juntar a uma startup de inteligência artificial (IA) fundada por ex-alunos do Instituto Indiano de Tecnologia de Madras (IIT-Madras).

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!