OpenAI vyvíjí nástroj pro identifikaci textů vytvořených umělou inteligencí

A OpenAI, zodpovědný za ChatGPT, spustila toto úterý (31) nástroj pro identifikaci textů vytvořených umělou inteligencí. Byl by to lék na stížnosti pedagogů z celého světa, kteří vidí platformu jako hrozbu pro učení.

Oprávněný "Ai textový klasifikátor", nástroj funguje následovně: vezmete podezřelý text, který může být vytvořen AI, a vložíte jej do označeného prostoru. Odtud web zkontroluje a klasifikuje písemný materiál jako: 

PUBLICITA

  • Je velmi nepravděpodobné, že by byly vytvořeny AI
  • Nepravděpodobné
  • Nejasný
  • Možné nebo pravděpodobné.

Rozumět:


Nástroj je ve fázi testování

Navzdory snadné konzultaci s textem, hlava zarovnání OpenAI, Jan Leike, řekl v rozhovoru pro portál Axios ve Spojených státech, že mohou existovat „falešně pozitivní a falešně negativní“.

Osoba odpovědná za OpenAI Také se zde uvádí, že pro snížení pravděpodobnosti selhání platformy se doporučuje, aby vložené texty měly více než 1000 slov a aby byly pokud možno v angličtině. 

Obavy o ChatGPT

Obavy týkající se obsahu generovaného umělou inteligencí vyvstaly poté, co pedagogové a subjekty po celém světě odhalili, že ChatGPT byl používán pro činnosti, které by měli dělat lidé. Například školy v New Yorku dokonce zakázaly používání umělé inteligence.

PUBLICITA

A OpenAI říká také, že vyvíjí další nástroje k identifikaci materiálů produkovaných umělou inteligencí. Alternativou je zahrnutí vodoznaků a vylepšení webu pro kontrolu textu.

OpenAI vyvíjí nástroj pro identifikaci textů vytvořených umělou inteligencí (Reprodukce OpenAI/Canva)

Vědět více:

posunout nahoru