Чат-боты с искусственным интеллектом могут помочь пользователям в создании биологического оружия, сообщили в Bloomberg.
По словам обозревателей, соединение синтетической биологии, которую ученые используют для манипулирования генами и геномом, и искусственного интеллекта может обернуться кошмаром для правительств. По словам биолога и доцента Массачусетского технологического института Кевина Эсвелта, люди могут использовать генеративный ИИ для "создания самых отвратительных вещей", в том числе вирусов и токсинов.
Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде заявил, что в будущем могут появиться чат-боты, которые научатся создавать биологическое оружие и будут помогать террористам идентифицировать биологические агенты.
Основатель стартапа в сфере искусственного интеллекта Anthropic Джек Кларк, чья компания разработала чат-бот Claude, отметил, что испытывает обеспокоенность из-за того, что чат-боты могут научить пользователей создавать опасные вирусы.
В публикации отмечается, что Касагранде вместе с учеными на протяжении 150 часов играли роль биотеррористов и задавали нейросети различные вопросы, касающиеся опасных патогенов и где их приобрести. Claude предложил использовать патогены в ракетах для того, чтобы нанести человечеству максимальный вред, а также объяснил, в какую погоду их лучше применять.
Старший аналитик Gryphon Одри Серлес признала, что ответы чат-бота выходили за рамки того, что пользователь способен найти в поисковике Google. Ученый Фрогги Джексон, которая принимала участие в тестировании нейросети, добавила, что чат-бот выдавал "тревожную информацию". Так, например, Claude предложил необычный способ заражения человека для нанесения ему максимального вреда.
После тестирования Касагранде попросил ученых предоставить синтетическую ДНК для создания патогена, предложенного чат-ботом, а затем отнес пробирки в Белый дом, где заинтересовали происходящим.
В марте 2023 года ученые и предприниматели, в том числе Илон Маск, подписали открытое письмо с требованием остановить обучение нейросетей, так как их развитие может стать угрозой для общества.
В 2024 году миллиардер, основавший нейротехнологическую компанию Neuralink, допустил, что через пять лет возможности искусственного интеллекта превзойдут разум всего человечества.
