Anthropic раскрыла системные промпты своего ИИ: что они делают

Anthropic опубликовала системные запросы «промпты» для своих последних ИИ-моделей Claude 3 Opus, Claude 3.5 Sonnet и Claude 3 Haiku, чтобы укрепить свою репутацию в области «прозрачности и этики».

Алекс Альберт, глава отдела по работе с разработчиками Anthropic, объявил об этой инициативе в соцсетях, подчеркнув, что подобный уровень раскрытия информации станет «регулярной практикой». В промптах, датированных 12 июля, подробно описаны некоторые ограничения для моделей Claude, такие как невозможность обрабатывать URL, ссылки или видео, а также строгий запрет на распознавание лиц.

Промпты также определяют черты характера моделей. Например, модель Claude 3 Opus должна быть «очень умной и интеллектуально любопытной», поощрять участие в обсуждении широкого круга тем, оставаясь при этом беспристрастной в спорных вопросах. Модель проинструктирована избегать начинать ответы со слов «конечно» или «абсолютно».