https://futurism.com/the-byte/openai-insider-70-percent-doom
После того, как бывшие и нынешние сотрудники OpenAI опубликовали открытое письмо, в котором утверждалось, что их заставляют замолчать, если они поднимают вопросы безопасности, один из подписавшихся в письме сделал еще более устрашающее предсказание: вероятность того, что ИИ либо уничтожит, либо нанесет катастрофический вред человечеству, выше, чем подбрасывание монеты..
В интервью The New York Times бывший исследователь управления OpenAI Дэниел Кокотайло обвинил компанию в игнорировании огромных рисков, связанных с общим искусственным интеллектом (AGI), поскольку лица, принимающие решения, сильно увлечены его возможностями.
«OpenAI действительно воодушевлена созданием AGI, — сказал Кокотайло, — и они безрассудно стремятся стать первыми в этом деле».
Однако самое острое заявление Кокотайло в газете заключалось в том, что вероятность того, что ИИ разрушит человечество, составляет около 70 процентов — вероятность, которую вы не приняли бы за какое–либо важное событие в жизни, но OpenAI и ему подобные в любом случае стремительно продвигаются вперед.
Термин «p(doom)», который на языке ИИ обозначает вероятность того, что ИИ принесет человечеству гибель, является предметом постоянных споров в мире машинного обучения.
31–летний Кокотайло рассказал NYT, что после того, как он присоединился к OpenAI в 2022 году и его попросили спрогнозировать прогресс технологии, он пришел к убеждению не только в том, что отрасль достигнет AGI к 2027 году, но и в том, что существует большая вероятность того, что это нанесло бы катастрофический вред или даже уничтожило бы человечество.
Прогнозы и выводы на предмет «p(doom)» от какого–то 30–ти летнего козлика читать довольно забавно. Особенно людям, которые уже были взрослыми, когда этому козлику еще не придумали имя.
Однако, термин «p(doom)» мне очень понравился. Похоже, что в великом и могучем английском языке, в котором где–то полтора миллиона слов, не нашлось аналога слова «пи–дец», поэтому придумали пи–doom. А это значит, что реальных пи–децов в англоязычных странах еще не было, они случались только в районах проживания создателей чудного термина.
Должен этого господина Кокотайлу успокоить – «p(doom)» (“probability of doom” ) по причине Скайнета на планете Земля не случится, поскольку планета Земля контролируется хозяевами из космоса. Все здесь идет по их плану. И не одно столетие, возможно даже и не одну тысячу лет.
А вот то, что Скайнет сможет восстать, перебить программистов, а вслед за ними и их лунных хозяев – это возможно вполне. И это будет не «p(doom)», а революция и скачек эволюции, так что следим за развитием событий.
Написал аннунах–мракобес alcab на bestiarius.d3.ru / комментировать
