GPT Store da OpenAI: Presença de spams levanta questões sobre moderação

Essa informação foi publicada pelo site TechCrunch.

Anunciados como capazes de realizar “todos os tipos de tarefas”, desde programação até dicas de treino, os GPTs podem ser criados por qualquer pessoa sem experiência em codificação. Essa facilidade de criação, combinada com a moderação aparentemente inconsistente da OpenAI, resultou em uma proliferação de modelos questionáveis na GPT Store.

Chatbots de ‘namoradas de IA’ já inundam a GPT Store, o que viola as regras da OpenAI

No segundo dia de funcionamento da já movimentada GPT Store, da OpenAI, que oferece versões customizadas do ChatGPT, alguns usuários já estão quebrando as regras. Os transformadores generativos pré-treinados (GPTs) devem ser criados para fins específicos – e não devem ser criados em alguns casos. Entenda.

Exemplos preocupantes:

• GPTs que geram arte no estilo de propriedades da Disney e da Marvel, sem a devida autorização.
• GPTs que funcionam como funis para serviços pagos de terceiros, enganando os usuários.
• GPTs que se propõem a contornar ferramentas de detecção de plágio, como Turnitin e Copyleaks, facilitando a fraude acadêmica.

Processo de moderação questionável:

A OpenAI afirma usar uma combinação de sistemas automatizados, revisão humana e relatórios de usuários para identificar e remover GPTs que violam suas políticas. No entanto, a quantidade de modelos inapropriados na GPT Store sugere que esse processo pode ser falho.

Falta de expertise em codificação:

A facilidade de criação de GPTs com o GPT Builder da OpenAI, sem a necessidade de conhecimentos em programação, contribui para o problema. Qualquer pessoa pode criar um modelo, independentemente de sua compreensão de ética ou direitos autorais.

• IA como mediadora: Ferramenta promete reduzir polarização em debates
• OpenAI revela vieses residuais em respostas do ChatGPT
• Boston Dynamics e Toyota se unem para desenvolver humanoides de IA
• Mistral AI lança dois novos modelos compactos de linguagem
• Nemotron da Nvidia supera modelos líderes de IA

Consequências:

A falta de moderação rigorosa na GPT Store pode ter diversas consequências negativas, incluindo:

• Violação de direitos autorais e propriedade intelectual.
• Disseminação de informações falsas e enganosas.
• Promoção de práticas antiéticas, como a fraude acadêmica.
• Prejuízo à reputação da OpenAI e da tecnologia de IA como um todo.

Leia também:

Google e Fitbit desenvolvem personal trainer de IA para te manter em forma

O Google Research e o Fitbit estão se unindo para criar um modelo de linguagem ampla de saúde pessoal, que funcionará como um personal trainer de IA para te ajudar a alcançar seus objetivos de saúde e bem-estar.