Сэм Альтман предостерег от использования ChatGPT для серьезных задач
«ChatGPT – невероятно ограниченная [модель], но вполне пригодная для создания обманчивого представления о собственных способностях, - твитнул Альтман. – Ошибкой было бы полагаться на нее в каких-либо важных делах. Это проблеск прогресса; нам предстоит еще много потрудиться над корректностью и правдоподобием».
Что же заставило главу OpenAI выступить с самокритикой? Когда компания https://hightech.plus/2022/12/02/novii-chatbot-openai-obyasn... OpenAI 30 ноября, он писал, что «скоро у вас появится полезный помощник, с которым можно будет поговорить, задать вопрос и получить совет. А потом он сможет выполнять ваши поручения. В конце концов, он дойдет до того, что станет исследовать для вас новую информацию».
По https://venturebeat.com/ai/openai-ceo-admits-chatgpt-risks-w... издания Venture Beat, причина может быть в волне хайпа, возникшей за последние полторы недели – и тревожной критики. О чатботе написали ведущие американские СМИ. ChatGPT называли и «сенсацией», и «самой разрушительной технологией с… (нужное подчеркнуть)», и сравнивали модель с нетрезвым посетителем бара, несущим околесицу из случайных фактов и чепухи.
Тем не менее, популярность ChatGPT продолжает расти, и OpenAI уже с трудом справляется с запросами. Некоторым пользователям приходится ждать возможности поговорить с ИИ. Для компании это хорошая возможность, чтобы получить ценные данные: обучение с подкреплением через обратную связь от людей. Которые она потом сможет использовать в новой версии модели естественной речи GPT-4.
Летом этого года OpenAI https://hightech.plus/2022/06/27/novii-ii-openai-nauchilsya-... новую разработку - модель, постигшая принципы игры в Minecraft. По сравнению с рядом других алгоритмов Minecraft, которые действуют в упрощенных версиях этой видеоигры, новый ИИ выступает наравне с людьми, вводя стандартные команды с клавиатуры и мыши.