В видана заява компанією було виявлено, що GPT-4 не є повністю надійним. За власним OpenAI, GPT-4 страждає від проблем із міркуваннями, все ще дуже наївний і зазнає невдач у складних задачах. Це ще більше посилює потребу людей поводитися з машиною уважно та обережно.
ПУБЛІЦИДА
«Оскільки системи штучного інтелекту стають все більш поширеними, досягнення високого рівня надійності в цих втручаннях ставатиме все більш критичним. Наразі дуже важливо доповнити ці обмеження методами безпеки під час розгортання, такими як моніторинг зловживань», — заявили в компанії.
GPT-4 ефективний, але проблеми залишаються
Незважаючи на визнання внутрішніх системних проблем, компанія підкреслила, що продуктивність інструменту ефективна. В додаток OpenAI найняв серію професіоналів для критичного використання ШІ та надсилання відгуків для вдосконалення системи.
Згідно з внутрішніми тестами, ChatGPT-4 на 40% краще, ніж остання версія. А OpenAI сказав, що це зменшило схильність ШІ реагувати на чутливі до вмісту команди на 82% порівняно з GPT-3.5. У технічних або шкідливих для людини випадках, таких як медичні запити, самоушкодження або конфіденційні теми, інструмент покращив свою продуктивність на 29%. Таким чином вони зменшили ймовірність використання Chat у шкідливий спосіб.
