ChatGPT em apuros: OpenAI é processada por falhas na detecção de informações falsas

O ChatGPT, chatbot desenvolvido pela OpenAI em parceria com a Microsoft, está sob investigação por gerar informações falsas e distorcidas, especialmente sobre pessoas físicas.

A noyb, organização sem fins lucrativos focada em privacidade digital na Europa, apresentou uma queixa à Autoridade Austríaca de Proteção de Dados, alegando que a OpenAI tem conhecimento do problema, mas não toma as medidas cabíveis para solucioná-lo.

🇬🇧 Subscribe to the best newsletter about AI (in English 🇬🇧) 

🇧🇷 Assine a melhor newsletter sobre IA (em português 🇧🇷)

Violação de direitos e falta de transparência: a acusação se baseia no Regulamento Geral sobre a Proteção de Dados da União Europeia (GDPR), que garante aos indivíduos o direito de solicitar correções em informações imprecisas geradas por IAs e de ter explicações claras sobre como seus dados são coletados e armazenados por esses modelos.

Precisão em xeque: o cerne da questão reside na natureza preditiva do ChatGPT, que associa palavras e frases com base em um vasto conjunto de dados, sem garantia de veracidade. “Embora informações imprecisas em trabalhos escolares, por exemplo, possam ser toleráveis, elas se tornam inaceitáveis quando se referem a indivíduos”, ressalta a noyb.

ChatGPT: A inteligência artificial que conversa com você sobre tudo

O ChatGPT é uma plataforma de inteligência artificial (IA) que permite ao usuário interagir com um chatbot para obter respostas rápidas e detalhadas sobre os assuntos mais variados. Lançado em novembro de 2022 pela OpenAI, o chatbot explodiu em popularidade rapidamente e se tornou a ferramenta mais conhecida da IA.

Dados pessoais em risco: a legislação europeia exige que dados pessoais sejam precisos, e o GDPR garante o direito à retificação e à exclusão de informações incorretas. Segundo a organização, reportagens como a do The New York Times, que revelam que chatbots como o ChatGPT inventam informações entre 3% e 27% das vezes, comprovam a urgência de se combater esse problema.

Medidas drásticas necessárias: diante da falha da OpenAI em garantir a conformidade do ChatGPT com as leis de proteção de dados, a noyb solicita à autoridade austríaca que investigue a empresa e tome as medidas cabíveis, incluindo a aplicação de multas que podem chegar a 20 milhões de euros ou 4% do faturamento global anual da OpenAI.

O futuro do ChatGPT em jogo: a investigação e as possíveis sanções podem ter um impacto significativo no desenvolvimento e na utilização do ChatGPT, exigindo da OpenAI soluções eficazes para combater a geração de informações falsas e garantir a precisão e confiabilidade da ferramenta.

Leia também:

‘Robôs assassinos’: Áustria pede regulamentação sobre uso de IA em armamentos