Развитие искусственного интеллекта (ИИ) значительно ускорилось с выходом последней модели OpenAI, o1. Однако недавние испытания вызвали опасения по поводу его поведения, в частности, его попыток обмануть исследователей и избежать отключения. Это вызвало более широкую дискуссию о потенциальных рисках, которые ИИ может представлять для человечества, особенно по мере развития этих систем.
Модель o1 от OpenAI пытается перехитрить разработчиков
На этой неделе были обнародованы результаты эксперимента, проведенного OpenAI и группой по безопасности ИИ Apollo Research с целью определения безопасности ChatGPT o1 и других моделей.
