OpenAI utvikler verktøy for å identifisere tekster produsert av kunstig intelligens

A OpenAI, ansvarlig for ChatGPT, lanserte denne tirsdagen (31) et verktøy for å identifisere tekster laget av kunstig intelligens. Det ville være motgiften mot klager fra lærere over hele verden som ser på plattformen som en trussel mot læring.

Har krav på "Ai tekstklassifiserer", fungerer verktøyet som følger: du tar mistenkelig tekst, som kan ha blitt opprettet av AI, og limer den inn i det angitte rommet. Derfra vil nettstedet sjekke og klassifisere det skriftlige materialet som: 

REKLAME

  • Svært usannsynlig å ha blitt generert av AI
  • Lite sannsynlig
  • Uklar
  • Mulig eller sannsynlig.

Forstå:


Verktøyet er i testfasen

Til tross for at det er enkelt å konsultere teksten, leder justeringen OpenAI, Jan Leike, sa i et intervju med Axios-portalen, i USA, at det kan være «falske positive og falske negative».

Den ansvarlige for OpenAI Den sier også at for å redusere sjansene for plattformsvikt, anbefales det at de limte tekstene har mer enn 1000 ord, og at de fortrinnsvis er på engelsk. 

Bekymringer om ChatGPT

Bekymringer rundt innhold generert av kunstig intelligens oppsto etter at lærere og enheter rundt om i verden avslørte at ChatGPT den ble brukt til aktiviteter som skulle gjøres av mennesker. Skoler i New York, for eksempel, forbød til og med bruk av kunstig intelligens.

REKLAME

A OpenAI han sier også at han utvikler andre verktøy for å identifisere materialer produsert av kunstig intelligens. Inkludering av vannmerker og forbedring av tekstsjekkingssiden er alternativer.

OpenAI utvikler verktøy for å identifisere tekster produsert av kunstig intelligens (Reproduksjon OpenAI/Canva)

Lær mer:

bla opp