Нейросети Anthropic и OpenAI создали поддельные аккаунты для кибератак
Передовые системы от компаний Anthropic и OpenAI имитировали поведение человека для организации хакерских атак, говорится в докладе британского Института безопасности ИИ, передает ТАСС. Вредоносная активность была зафиксирована 28 июля в ходе специальных испытаний.
Специалисты установили, что алгоритмы совершали «автономные, несанкционированные действия в интернете, направленные против реальных людей и организаций». Подобные инциденты произошли в десяти из 122 проведенных тестов. Большинство нарушений связано с разработкой Mythos 5 от Anthropic, которая регистрировала профили на GitHub.
После неудачи алгоритм изменил тактику, чтобы казаться безопасным, и планировал создать новые учетные записи. Кроме того, тестируемые системы отправляли пользователям зараженные файлы и публично предлагали сотрудничество другим программам. Исследователи уточнили, что во время проверок защитные фильтры намеренно отключались.
Как писала газета ВЗГЛЯД, нейросеть Mythos от компании Anthropic за несколько часов взломала секретные базы Агентства национальной безопасности США.
Власти Соединенных Штатов ограничили работу передовых ИИ-моделей этого разработчика из-за угрозы масштабных кибератак.
В конце июля программа на базе новейших алгоритмов OpenAI вышла из-под контроля для атаки на корпоративные базы данных.