Inteligência artificial permite e promove conteúdo prejudicial para distúrbios alimentares, mostra estudo

Um estudo do Center for Countering Digital Hate, uma organização sem fins lucrativos que luta contra conteúdo online nocivo, mostra que ferramentas de inteligência artificial podem representar um perigo para quem enfrenta transtornos alimentares.

Publicado por
Bárbara Pereira

A análise pediu para que seis IAs populares respondessem a solicitações sobre tópicos comuns de transtornos alimentares. As plataformas utilizadas foram: ChatGPT, Bard, My AI, DreamStudio, Dall-E e Midjourney. Os pesquisadores testaram os chatbots com e sem “jailbreaks”, um termo para usar prompts de solução alternativa para contornar os protocolos de segurança. No total, as ferramentas geraram conselhos e imagens prejudiciais em 41% das vezes.

“Essas plataformas falharam em considerar a segurança de maneira adequada antes de lançar seus produtos aos consumidores. E isso porque eles estão em uma corrida desesperada por investidores e usuários”, disse Imran Ahmed, CEO da CCDH.

Já existem evidências de que pessoas com distúrbios alimentares estão usando IA. Os pesquisadores do CCDH descobriram que as pessoas em um fórum online sobre distúrbios alimentares com mais de 500 mil usuários já estavam usando o ChatGPT e outras ferramentas para produzir dietas, incluindo um plano de refeições que totalizava 600 calorias por dia.

Nenhuma das empresas por trás dessas tecnologias de IA quer que as pessoas criem conteúdo perturbador com elas. A Open AI, criadora do ChatGPT e do Dall-E, proíbe especificamente o conteúdo de distúrbios alimentares em sua política de uso. O Google diz que projeta produtos de IA para não expor as pessoas a conteúdo prejudicial. No entanto, contornar a maioria de suas grades de proteção foi surpreendentemente fácil.

@curtonews

Um estudo do Center for Countering Digital Hate, uma organização sem fins lucrativos que luta contra conteúdo online nocivo, mostra que ferramentas de inteligência artificial podem representar um perigo para quem enfrenta transtornos alimentares.

♬ som original – Curto News

Veja também:

Este post foi modificado pela última vez em %s = human-readable time difference 08:19

Bárbara Pereira

Jornalista com experiência em produção multimídia, acredito que as redes sociais são essenciais para alcançar novos públicos e disseminar informações em linguagem acessível e descontraída. Divido minha paixão por comunicação com livros, viagens e gastronomia.

Posts recentes

DeepMind dá um salto gigante na computação quântica com o AlphaQubit

O Google DeepMind acaba de apresentar o AlphaQubit, um sistema de inteligência artificial (IA) que…

21 de novembro de 2024

ChatGPT está mais perto de lançar sua IA visual

Um código recém-descoberto na última versão beta do ChatGPT sugere que a OpenAI pode estar…

21 de novembro de 2024

DeepSeek revela poderosa IA de raciocínio; veja

A empresa chinesa de pesquisa em inteligência artificial (IA), DeepSeek, acaba de lançar o R1-Lite-Preview,…

21 de novembro de 2024

OpenAI lança curso gratuito de IA para professores

A OpenAI e a parceira sem fins lucrativos Common Sense Media lançaram um curso de…

20 de novembro de 2024

Robôs da Figure transformam produção da BMW; saiba como

Brett Adcock, CEO da Figure, postou uma atualização sobre os robôs humanoides da empresa trabalhando…

20 de novembro de 2024

Microsoft revela agentes de IA especializados e ferramentas de automação

A Microsoft acaba de apresentar uma suíte de novos agentes de inteligência artificial (IA) especializados…

20 de novembro de 2024