Развитие ИИ может привести к гибели миллиарда человек – Билл Гейтс
Билл Гейтс призвал власти США ввести обязательные меры контроля и надзора за развитием технологии.
"ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые, как вы знаете, приводят к миллиарду смертей. Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ", — сказал он.
По его словам, саморегулирования компаний недостаточно, необходима роль государства. Гейтс призвал принять профильное законодательство, подключить правоохранительные органы и политиков к обсуждению гарантий и мониторинга.
"И это должно быть обязательным. И это будет небольшими накладными расходами для отрасли; не резким замедлением того, что они делают", — добавил Гейтс.
Дискуссии о рисках ИИ усилились на фоне быстрого прогресса технологий. Руководители и исследователи ведущих компаний, включая Anthropic и OpenAI, ранее призывали к более осторожному подходу и усилению проверки безопасности.
Глава Anthropic Дарио Амодеи ранее призывал замедлить разработку ИИ из‑за инцидентов с автономными агентами, предупреждая, что через 6-12 месяцев такие системы могут использовать постоянный ботнет и нанести ущерб на сотни миллиардов долларов.
Ряд специалистов также выступают за ограничение темпов. Бывший исследователь Anthropic Джейкоб Коксон допускал, что к концу 2027 года ситуация может выйти из‑под контроля. Сооснователь Palantir и PayPal Питер Тиль называл тревожной даже вероятность в 5-10 процентов выхода ИИ из‑под контроля, при этом отмечая, что не считает такой сценарий наиболее вероятным.