OpenAI desenvolve ferramenta para identificar textos produzidos por inteligência artificial

Intitulada “Ai text classifier”, a ferramenta funciona da seguinte forma: você pega um texto suspeito, que pode ter sido feito por IA, e cola no espaço indicado. A partir disso, o site vai fazer uma checagem e classificar o material escrito como: 

• Muito improvável de ter sido gerado por IA
• Improvável
• Pouco claro
• Possível ou provável.

Entenda:

Ferramenta está em fase de testes

Apesar da facilidade para consultar o texto, o chefe de alinhamento da OpenAI, Jan Leike, disse em entrevista ao portal Axios, dos Estados Unidos, que podem existir “falsos positivos e falsos negativos”.

O responsável da OpenAI diz ainda que, para reduzir as chances de falha da plataforma, é recomendado que os textos colados tenham mais de 1000 palavras, e que estejam, preferencialmente, em inglês. 

Preocupações com o ChatGPT

As preocupações em torno dos conteúdos gerados por inteligência artificial surgiram após educadores e entidades do mundo todo exporem que o ChatGPT estava sendo usado para atividades que deveriam ser feitas por humanos. As escolas de Nova York, por exemplo, chegaram a proibir o uso da IA.

A OpenAI diz ainda que está desenvolvendo outras ferramentas para identificar materiais produzidos por inteligência artificial. Incluir marcas d’água e aprimorar o site de checagem de textos são alternativas.

Saiba mais: