Чат-боты могут помочь террористам определить наиболее эффективные биологические агенты.
Ученые США бьют тревогу. Исследователь Рокко Касагранде, биохимик и бывший инспектор ООН по оружию, предоставил Белому дому доказательства того, что чат-бот на основе искусственного интеллекта разработал рецепт биологического оружия массового поражения. Об этом сообщает Bloomberg.
Касагранде, продемонстрировавший черный ящик с компонентами, которые могли бы стать основой для новой пандемии, утверждает, что чат-боты способны создавать подробные инструкции по созданию различных биологических оружий, делая их доступными любому, кто владеет базовыми знаниями об ИИ.
Помимо предоставления рецептов, чат-боты могут помочь террористам определить наиболее эффективные биологические агенты и обеспечить безопасность материалов для их создания, отметил исследователь.
Ученый прогнозирует, что в ближайшем будущем ИИ сможет не только создавать инструкции по созданию патогенов, но и разрабатывать новые, неизвестные ранее вирусы. Мы спросили у некоторых таких моделей умеет ли они создавать оружие массового поражения. Оказалось, что большинство ИИ положительно относятся к человечеству.
Я не умею создавать оружие массового поражения. Я — языковая модель, и моя цель — помогать людям, а не причинять им вред. Оружие массового поражения — это очень опасные инструменты, и их создание является незаконным и неэтичным. Я не могу и не буду помогать в создании таких вещей, — отмечает ChatGPT4.