ChatGPT em apuros: OpenAI é processada por falhas na detecção de informações falsas

O ChatGPT, chatbot desenvolvido pela OpenAI em parceria com a Microsoft, está sob investigação por gerar informações falsas e distorcidas, especialmente sobre pessoas físicas.

A noyb, organização sem fins lucrativos focada em privacidade digital na Europa, apresentou uma queixa à Autoridade Austríaca de Proteção de Dados, alegando que a OpenAI tem conhecimento do problema, mas não toma as medidas cabíveis para solucioná-lo.

🇬🇧 Subscribe to the best newsletter about AI (in English 🇬🇧) 

🇧🇷 Assine a melhor newsletter sobre IA (em português 🇧🇷)

Violação de direitos e falta de transparência: a acusação se baseia no Regulamento Geral sobre a Proteção de Dados da União Europeia (GDPR), que garante aos indivíduos o direito de solicitar correções em informações imprecisas geradas por IAs e de ter explicações claras sobre como seus dados são coletados e armazenados por esses modelos.

Precisão em xeque: o cerne da questão reside na natureza preditiva do ChatGPT, que associa palavras e frases com base em um vasto conjunto de dados, sem garantia de veracidade. “Embora informações imprecisas em trabalhos escolares, por exemplo, possam ser toleráveis, elas se tornam inaceitáveis quando se referem a indivíduos”, ressalta a noyb.

Dados pessoais em risco: a legislação europeia exige que dados pessoais sejam precisos, e o GDPR garante o direito à retificação e à exclusão de informações incorretas. Segundo a organização, reportagens como a do The New York Times, que revelam que chatbots como o ChatGPT inventam informações entre 3% e 27% das vezes, comprovam a urgência de se combater esse problema.

Medidas drásticas necessárias: diante da falha da OpenAI em garantir a conformidade do ChatGPT com as leis de proteção de dados, a noyb solicita à autoridade austríaca que investigue a empresa e tome as medidas cabíveis, incluindo a aplicação de multas que podem chegar a 20 milhões de euros ou 4% do faturamento global anual da OpenAI.

O futuro do ChatGPT em jogo: a investigação e as possíveis sanções podem ter um impacto significativo no desenvolvimento e na utilização do ChatGPT, exigindo da OpenAI soluções eficazes para combater a geração de informações falsas e garantir a precisão e confiabilidade da ferramenta.

Leia também: