В анонсе, опубликованном на сайте новорожденной компании, основатели написали, что создание сверхчеловеческого интеллекта – это «самая важная техническая проблема нашего времени». И далее:
«Мы подходим к вопросам безопасности и возможностей как к единому целому, как к технической проблеме, которую предстоит решить посредством революционных инженерных и научных прорывов. Мы планируем продвигаться вперед как можно быстрее, не забывая о том, что безопасность всегда остается главным приоритетом».
Под сверхразумным ИИ понимают обычно гипотетического агента, интеллект которого намного превосходит способности самого умного человека. Эта задача занимала Суцкевера и в бытность главным ученым OpenAI, где он возглавлял соответствующий отдел. Однако после его https://hightech.plus/2024/05/15/ilya-suckever-oficialno-pok... команда была расформирована.
Новая команда Суцкевера сотоварищи попытается достичь сверхразумного ИИ «прямым подходом, сосредоточившись на одной цели, на одном продукте», https://www.theverge.com/2024/6/19/24181870/openai-former-ch... Verge. Также из анонса следует, что стартап постарается не повторять ошибок, которые часто совершают в крупных компаниях вроде OpenAI, Google или Microsoft: одна-единственная цель позволит избежать отвлекающего от работы менеджмента и «продуктовых циклов».
«Наша бизнес-модель означает, что безопасность, конфиденциальность и прогресс изолированы от краткосрочных коммерческих требований, - говорится в пресс-релизе. – Таким образом, мы можем спокойно развиваться».
Группа из 9 нынешних и бывших сотрудников OpenAI https://hightech.plus/2024/06/05/bivshie-sotrudniki-openai-s... открытое письмо с призывом защитить информаторов в индустрии ИИ. Они утверждают, что OpenAI ставит прибыль и рост выше безопасности и этики, что создает потенциальные угрозы для человечества. Сотрудники готовы дать показания против компании, если им обеспечат защиту.
