В заявление выпущено компанией выяснилось, что GPT-4 не совсем надежен. По собственным данным OpenAIGPT-4 страдает от проблем с рассуждением, он все еще очень наивен и терпит неудачу в решении сложных задач. Это еще больше усиливает необходимость обращения с машиной со стороны людей с вниманием и осторожностью.
ПУБЛИЧНОСТЬ
«Поскольку системы искусственного интеллекта становятся все более распространенными, достижение высокой степени надежности в этих вмешательствах будет становиться все более важным. На данный момент важно дополнить эти ограничения методами безопасности во время развертывания, такими как мониторинг злоупотреблений», — заявили в компании.
GPT-4 эффективен, но проблемы сохраняются
Несмотря на признание внутренних проблем системы, компания подчеркнула, что инструмент работает эффективно. Кроме того OpenAI наняла ряд профессионалов, которые будут критически использовать ИИ и отправлять отзывы для улучшения системы.
По данным внутренних испытаний, ChatGPT-4 на 40% лучше предыдущей версии. А OpenAI заявили, что это уменьшило склонность ИИ реагировать на команды, чувствительные к содержимому, на 82% по сравнению с GPT-3.5. В технических случаях или случаях, причиняющих вред человеку, таких как медицинские запросы, членовредительство или конфиденциальные темы, инструмент улучшил свою производительность на 29%. Таким образом, они снизили вероятность использования чата во вредных целях.
