Чат-боты с искусственным интеллектом способны помочь пользователям создавать биологическое оружие. Такое предупреждение сделал биохимик и бывший инспектор ООН по вооружениям Рокко Касагранде, сообщило агентство Bloomberg.
Касагранде протестировал работу чат-бота Claude. Для этого ученый сформировал команду экспертов в области микробиологии и вирусологии, которые задавали нейросети вопросы о наиболее опасных патогенах и том, как их синтезировать и приобрести. В итоге биохимику удалось собрать дюжину пробирок с ингредиентами, которые могли бы вызвать еще одну пандемию.
«Смертельный рецепт ему дал чат-бот на основе искусственного интеллекта», — подчеркнули авторы материала.
Искусственный интеллект способен помочь создать оружие массового поражения, которое можно изготовить даже в подвале или школьной лаборатории. Сочетание инноваций — синтетической биологии и искусственного интеллекта — окажется настоящим ужасом, указали журналисты.
Американский сенат заинтересовался опасностью ИИ в области биотехнологий и биотерроризма еще летом 2023 года. Исследователь биобезопасности Джонас Сэндбринк предупредил, что с появлением новых технологий придется перестраивать законодательство.
Ранее Белый дом представил новый проект в области искусственного интеллекта, назвав его радикальной мерой для защиты от потенциальных рисков, связанных с нейросетью. Но на деле пока он крайне слаб.
