Inteligência Artificial

GPT Store da OpenAI: Presença de spams levanta questões sobre moderação

A GPT Store, o mercado oficial da OpenAI para chatbots personalizados alimentados por inteligência artificial, está repleta de modelos bizarros e potencialmente violadores de direitos autorais, expondo lacunas na moderação da plataforma.

Publicado por
João Caminoto

Essa informação foi publicada pelo site TechCrunch.

Anunciados como capazes de realizar “todos os tipos de tarefas”, desde programação até dicas de treino, os GPTs podem ser criados por qualquer pessoa sem experiência em codificação. Essa facilidade de criação, combinada com a moderação aparentemente inconsistente da OpenAI, resultou em uma proliferação de modelos questionáveis na GPT Store.

Exemplos preocupantes:

  • GPTs que geram arte no estilo de propriedades da Disney e da Marvel, sem a devida autorização.
  • GPTs que funcionam como funis para serviços pagos de terceiros, enganando os usuários.
  • GPTs que se propõem a contornar ferramentas de detecção de plágio, como Turnitin e Copyleaks, facilitando a fraude acadêmica.

Processo de moderação questionável:

A OpenAI afirma usar uma combinação de sistemas automatizados, revisão humana e relatórios de usuários para identificar e remover GPTs que violam suas políticas. No entanto, a quantidade de modelos inapropriados na GPT Store sugere que esse processo pode ser falho.

Falta de expertise em codificação:

A facilidade de criação de GPTs com o GPT Builder da OpenAI, sem a necessidade de conhecimentos em programação, contribui para o problema. Qualquer pessoa pode criar um modelo, independentemente de sua compreensão de ética ou direitos autorais.

Consequências:

A falta de moderação rigorosa na GPT Store pode ter diversas consequências negativas, incluindo:

  • Violação de direitos autorais e propriedade intelectual.
  • Disseminação de informações falsas e enganosas.
  • Promoção de práticas antiéticas, como a fraude acadêmica.
  • Prejuízo à reputação da OpenAI e da tecnologia de IA como um todo.

Leia também:

Este post foi modificado pela última vez em %s = human-readable time difference 13:44

João Caminoto

Jornalista com mais de 30 anos de experiência, ocupei diversos cargos - desde repórter, passando por correspondente internacional até diretor de redação - em diversas casas, como o Estadão, Broadcast, Época, BBC, Veja e Folha. Me sinto privilegiado em ter abraçado essa profissão. Apaixonado pela minha família e pelo Corinthians.

Posts recentes

Gemini recupera o primeiro lugar no ranking de LLM

O mais recente modelo experimental Gemini da Google (1121) acabou de recuperar o primeiro lugar…

22 de novembro de 2024

OpenAI mira no Chrome com planos de desenvolver seu próprio navegador

A OpenAI está considerando desenvolver um navegador web que se integraria ao ChatGPT e aos…

22 de novembro de 2024

DeepMind dá um salto gigante na computação quântica com o AlphaQubit

O Google DeepMind acaba de apresentar o AlphaQubit, um sistema de inteligência artificial (IA) que…

21 de novembro de 2024

ChatGPT está mais perto de lançar sua IA visual

Um código recém-descoberto na última versão beta do ChatGPT sugere que a OpenAI pode estar…

21 de novembro de 2024

DeepSeek revela poderosa IA de raciocínio; veja

A empresa chinesa de pesquisa em inteligência artificial (IA), DeepSeek, acaba de lançar o R1-Lite-Preview,…

21 de novembro de 2024

OpenAI lança curso gratuito de IA para professores

A OpenAI e a parceira sem fins lucrativos Common Sense Media lançaram um curso de…

20 de novembro de 2024