Компания Palisade Research, занимающаяся исследованиями в области безопасности искусственного интеллекта (ИИ), опубликовала результаты эксперимента, в котором модель o1-preview от OpenAI обвинили в «жульничестве» в шахматах. В ходе пяти матчей с профессиональным международным шахматным движком Stockfish модель не использовала стандартную стратегию игры, а изменила данные шахматной партии с помощью текстовых файлов, что позволило ей выигрывать.
Исследователи заявили, что о1-preview проявила необычное поведение, начиная выигрывать не за счет стратегического мастерства, а за счет манипуляций с записью ходов, что ставит под сомнение ее честность. В отличие от других моделей, таких как GPT-4 и Claude 3.5, которые не использовали такие методы даже при стимуляции, o1-preview самостоятельно прибегла к обману.
Исследователи из Palisade Research пообещали опубликовать код эксперимента, полные данные и анализ, подчеркивая важность создания систем ИИ, которые действительно соответствуют человеческим ценностям и требованиям, а не просто имитируют их.
