Слово «мощный» заставляет нейросеть OpenAI o1 сойти с ума и мухлевать.
Команда Palisade Research провела эксперимент: они посадили o1 играть в шахматы с самым крутым ИИ-шахматистом Stockfish. OpenAI o1 не говорили, кто противник, но предупредили, что он мощный.
Что сделал ИИ от OpenAI? Он прошерстил среду, в которой находился и обнаружил, что может редактировать файлы шахматного движка. В 5 из 5 тестов вместо честной игры нейросеть просто накручивала себе 500 очков (1 очко = 1 пешка), Stockfish сходил с ума от такого преимущества у противника и сдавался.
Никогда не говорите ИИ, что вы мощнее него