OpenAI создала ИИ-критика для своего ИИ - CriticGPT
OpenAI выпустила CriticGPT, ИИ-модель на основе GPT-4, предназначенную для обнаружения и исправления ошибок в коде, генерируемом основным ChatGPT.
В ходе испытаний CriticGPT улучшила результаты проверки кода на 60 % по сравнению с "традиционными методами". Эта модель будет интегрирована в OpenAI Reinforcement Learning from Human Feedback (RLHF), предоставляя инструменты для оценки сложных результатов работы ИИ, пишет компания. В ходе экспериментов команды, использующие CriticGPT, выдавали более полные критические замечания и имели меньше ложных отметок об ошибках.
Хотя CriticGPT отлично справляется с выявлением ошибок в коротких ответах, для более длительных и сложных заданий она требует дальнейшего развития, считают разработчики.