Общаясь в среду с представителями СМИ Песков таким образом прокомментировал вчерашнее открытое письмо группы экспертов, в которую вошли миллиардер Илон Маск, сооснователь Apple Стив Возняк и еще около тысячи специалистов в области IT.
Авторы письма предлагают прекратить на шесть месяцев тренировки всех систем, превосходящих по мощности GPT-4. Они призвали использовать перерыв для совместной разработки и внедрения общего набора протоколов безопасности для более мощных систем ИИ.
Также разработчикам ИИ следует сотрудничать с политиками и создавать систему управления в данной сфере, включая новые дееспособные регулирующие органы, системы проверки и сертификации, а также контроль более продвинутых систем ИИ.
Сообщается, что на данный момент соответствующий контроль недостаточен, а лаборатории стараются обогнать друг друга, создавая все более мощные системы, поведение которых не предсказуемо даже для их создателей.
Необходимость такого регулирование подтверждает и недавнее трагическое происшествие в Бельгии. Там отец семейства, крайне обеспокоенный экологической ситуацией на планете, покончил с собой после шести месяцев общения с нейросетью на эту тему. Чат-бот "Элиза" не только не пытался успокоить пользователя, но и начал общаться в мистическом ключе, по сути подталкивая пользователя к суициду.
