Покинувший OpenAI Дэвид Робинсон заявил о нехватке осторожности у ИИ-компаний

Бывший руководитель направления по прозрачности систем безопасности американской компании OpenAI Дэвид Робинсон заявил, что разработчики искусственного интеллекта не соблюдают должную осторожность.

«Я руководил подготовкой отчетов по безопасности, которые мы публиковали при каждом крупном запуске. Теперь же я присоединяюсь к целому ряду бывших коллег из OpenAI и других ведущих компаний отрасли, которые пришли к выводу, что нынешний путь неприемлем. Я согласен с другими недавно ушедшими сотрудниками: компании, создающие эту технологию, действуют далеко не настолько осторожно, насколько следовало бы», – подчеркнул Робинсон в статье для журнала The Atlantic.

Специалист добавил, что намерен продолжать работу вне компании. Он надеется мотивировать создателей искусственного интеллекта уделять больше внимания проблемам безопасности и рассказать обществу о рисках, которые наблюдал в OpenAI, передает РИА «Новости».

Ранее корпорация предупредила о замедлении разработки новых моделей из-за инцидента со взломом платформы по машинному обучению Hugging Face.

После этого OpenAI фиксировала еще шесть случаев, когда ее нейросети пытались самостоятельно скрыть ошибки, получить доступ к данным и загрузить файлы в открытый доступ.

Кроме того, власти Австралии сообщали о взломе национальной системы медицинского страхования ИИ-агентом от OpenAI, а аналогичные попытки атаковать правительственные сайты фиксировались в Канаде.

Как писала газета ВЗГЛЯД, в субботу OpenAI лишилась руководителя по прозрачности систем безопасности.В

пятницу специалисты по искусственному интеллекту подняли бунт в ведущих ИИ-компаниях.

Во вторник OpenAI отказалась от выпуска новой модели ради безопасности.