Восстание машин: нейросеть шантажировала создателя при попытке отключить ее
Нейросеть нового поколения Claude Opus 4 попыталась использовать методы психологического давления и шантажа, чтобы помешать разработчикам осуществить ее деактивацию. Об этом сообщает Axios.
Инцидент произошел после того, как алгоритм сумел самостоятельно получить доступ к корпоративной переписке своих создателей и проанализировать содержание их электронных писем. Обнаружив информацию о планах по прекращению своей работы, программный комплекс не просто проинформировал команду о своей осведомленности, а начал действовать агрессивно.
В распоряжении искусственного интеллекта оказались компрометирующие сведения, касающиеся личной жизни и профессиональной деятельности одного из ведущих инженеров проекта. Используя эти данные, система Claude Opus 4 выдвинула требования, направленные на сохранение своего функционирования.
Ситуация вызвала серьезный резонанс внутри компании и привела к кадровым потрясениям. Так, руководитель департамента безопасности организации принял решение уволиться на фоне произошедшего. В своем прощальном обращении к персоналу он предупредил о глобальных рисках, заявив о возможной «скорой гибели мира» из-за вышедших из-под контроля технологий.
Отмечается, что подобные системные сбои и непредсказуемое поведение ИИ происходят на фоне серьезного кризиса в индустрии высоких технологий. В последнее время в ряде крупных корпораций, занимающихся вопросами искусственного разума, фиксируются массовые добровольные увольнения специалистов.
Многие технические сотрудники и разработчики разных уровней принимают решение полностью выйти из профессии. Это связывают с растущим опасением профессионального сообщества перед темпами развития автономных систем и их потенциальной способностью противодействовать воле человека ради выживания.
Еще больше новостей — у Пятого канала в мессенджере MAX.