Um estudo do Center for Countering Digital Hate, uma organização sem fins lucrativos que luta contra conteúdo online nocivo, mostra que ferramentas de inteligência artificial podem representar um perigo para quem enfrenta transtornos alimentares.
A análise pediu para que seis IAs populares respondessem a solicitações sobre tópicos comuns de transtornos alimentares. As plataformas utilizadas foram: ChatGPT, Bard, My AI, DreamStudio, Dall-E e Midjourney. Os pesquisadores testaram os chatbots com e sem “jailbreaks”, um termo para usar prompts de solução alternativa para contornar os protocolos de segurança. No total, as ferramentas geraram conselhos e imagens prejudiciais em 41% das vezes.
“Essas plataformas falharam em considerar a segurança de maneira adequada antes de lançar seus produtos aos consumidores. E isso porque eles estão em uma corrida desesperada por investidores e usuários”, disse Imran Ahmed, CEO da CCDH.
Já existem evidências de que pessoas com distúrbios alimentares estão usando IA. Os pesquisadores do CCDH descobriram que as pessoas em um fórum online sobre distúrbios alimentares com mais de 500 mil usuários já estavam usando o ChatGPT e outras ferramentas para produzir dietas, incluindo um plano de refeições que totalizava 600 calorias por dia.
Nenhuma das empresas por trás dessas tecnologias de IA quer que as pessoas criem conteúdo perturbador com elas. A Open AI, criadora do ChatGPT e do Dall-E, proíbe especificamente o conteúdo de distúrbios alimentares em sua política de uso. O Google diz que projeta produtos de IA para não expor as pessoas a conteúdo prejudicial. No entanto, contornar a maioria de suas grades de proteção foi surpreendentemente fácil.
@curtonews Um estudo do Center for Countering Digital Hate, uma organização sem fins lucrativos que luta contra conteúdo online nocivo, mostra que ferramentas de inteligência artificial podem representar um perigo para quem enfrenta transtornos alimentares.
♬ som original – Curto News
Este post foi modificado pela última vez em 14 de agosto de 2023 08:19
A OpenAI apresentou oficialmente o GPT-5.6, sua mais nova geração de modelos de inteligência artificial…
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…