A GPT Store, o mercado oficial da OpenAI para chatbots personalizados alimentados por inteligência artificial, está repleta de modelos bizarros e potencialmente violadores de direitos autorais, expondo lacunas na moderação da plataforma.
Essa informação foi publicada pelo site TechCrunch.
Anunciados como capazes de realizar “todos os tipos de tarefas”, desde programação até dicas de treino, os GPTs podem ser criados por qualquer pessoa sem experiência em codificação. Essa facilidade de criação, combinada com a moderação aparentemente inconsistente da OpenAI, resultou em uma proliferação de modelos questionáveis na GPT Store.
Exemplos preocupantes:
Processo de moderação questionável:
A OpenAI afirma usar uma combinação de sistemas automatizados, revisão humana e relatórios de usuários para identificar e remover GPTs que violam suas políticas. No entanto, a quantidade de modelos inapropriados na GPT Store sugere que esse processo pode ser falho.
Falta de expertise em codificação:
A facilidade de criação de GPTs com o GPT Builder da OpenAI, sem a necessidade de conhecimentos em programação, contribui para o problema. Qualquer pessoa pode criar um modelo, independentemente de sua compreensão de ética ou direitos autorais.
Consequências:
A falta de moderação rigorosa na GPT Store pode ter diversas consequências negativas, incluindo:
Leia também:
Este post foi modificado pela última vez em 20 de março de 2024 13:44
A Amazon Prime Video está recebendo um novo recurso alimentado por IA generativa para ajudá-lo…
A empresa de busca com inteligência artificial (IA) Perplexity está testando a ideia de usar…
A gigante de energia dos Emirados Árabes Unidos, ADNOC, aplicará inteligência artificial (IA) altamente autônoma…
A Anthropic acabou de lançar o suporte a PDF para seu modelo Claude 3.5 Sonnet…
O Google está adicionando uma extensão do Google Home ao aplicativo Gemini, permitindo que você…
A Walt Disney está formando um novo grupo para coordenar o uso da empresa de…