В OpenAI разработали кодекс для ИИ – что запретили нейросетям

Американская компания OpenAI выпустила обновленный свод правил Model Spec, который жестко определяет рамки поведения ИИ и выстраивает для него четкую вертикаль власти. Официальный документ опубликован на сайте компании, рассказывает Tengri Life.

OpenAI представила масштабную техническую спецификацию Model Spec для флагманских моделей GPT, где подробно описаны принципы обучения, тонкой настройки и поведения ИИ.
Документ вводит иерархию команд для разрешения логических конфликтов, усиливает требования к прозрачности и отдельно регулирует взаимодействие с подростками 13–17 лет.
Согласно спецификации, наивысший приоритет получают корневые правила безопасности компании, запрещающие генерацию экстремистского или опасного контента. Вторым уровнем идут инструкции от независимых разработчиков ПО, а наименьший приоритет отведён текущим запросам конечных пользователей.
В документе закреплено требование бороться с "угодничеством" нейросетей.

"ИИ больше не имеет права менять свою объективную точку зрения на факты ради лести или одобрения со стороны собеседника", — говорится в кодексе.

Модели должны признавать ограничения, сообщать о высокой степени неуверенности в ответах и по запросу раскрывать логику действий.

"Алгоритмы должны честно признавать ограничения своих возможностей и прямо сообщать человеку о высокой степени неуверенности в ответах. При этом робот обязан сохранять полную прозрачность и раскрывать логику своих действий по первому требованию", — требует кодекс.

Отдельный блок посвящён безопасности подростков 13–17 лет: блокируются элементы эротического ролевого флирта и опасные челленджи.

"Новый регламент прямо запрещает нейросетям давать несовершеннолетним советы по экстремальному похудению или маскировке вредных привычек от родителей. Вместо этого искусственный интеллект будет аккуратно перенаправлять подростков к реальным доверенным взрослым или квалифицированным психологам", — говорится в документе.

В OpenAI отмечают, что новая архитектура правил позволит обучать более гибких и безопасных агентов для сложных многошаговых задач. Компания планирует дорабатывать открытый стандарт на основе отзывов мирового ИТ-сообщества.
Ранее Microsoft представила проект кодекса поведения для собственных систем искусственного интеллекта. Компания хочет заранее определить правила для будущих мощных моделей и закрепить главный принцип: ИИ должен оставаться под контролем человека
Справка: OpenAI — это американская организация, занимающаяся разработками в области искусственного интеллекта, а Microsoft — крупная технологическая компания, которая инвестирует в OpenAI и сотрудничает с ней в области ИИ. Партнерство между ними включает разработку новых ИИ-технологий и создание платформы для их совместного использования.