https://www.washingtontimes.com/news/2024/nov/19/henry-kissinger-final-warning-prepare-superhuman-p/
Человечество должно начать подготовку к тому, что эпоха его управления планетой закончилась, говорится в новой книге покойного государственного деятеля Генри Киссинджера и пары ведущих технологов страны.
Рост ИИ, создающего «сверхчеловеческих» образцов людей, является одной из главных тем для беспокойства в книге «Genesis», опубликованной во вторник Little, Brown and Company. Это «последняя книга» Киссинджера, согласно сообщению материнской компании издательства Hachette.
Киссинджер был давним американским дипломатом и стратегом, который умер в прошлом году в возрасте 100 лет. Соавторы Киссинджера, бывший генеральный директор Google Эрик Шмидт и давний старший руководитель Microsoft Крейг Манди, завершили совместную работу после смерти Киссинджера, и The Washington Times получила предварительный экземпляр.
Г–н Шмидт и г–н Манди написали, что они были среди последних, кто говорил с Киссинджером, и стремились выполнить его предсмертную просьбу закончить рукопись.
Авторы предлагают бодрящее сообщение, предупреждая, что инструменты ИИ уже начали опережать человеческие возможности, поэтому людям, возможно, придется рассмотреть возможность биологической инженерии, чтобы гарантировать, что они не станут неполноценными или не будут уничтожены передовыми Машинами.
В разделе под названием «Коэволюция: искусственные люди» три автора призывают людей задуматься сейчас о «попытках ориентироваться в нашей роли, когда мы больше не будем единственными и, тем более, главными действующими лицами на нашей планете».
«Усилия биологической инженерии, направленные на более тесное слияние человека с Машинами, уже ведутся», — пишут г–н Шмидт и г–н Манди
Текущие усилия по интеграции людей с Машинами включают интерфейсы мозг–компьютер, технологию, которую военные США в прошлом году определили как имеющую первостепенное значение. Такие интерфейсы обеспечивают прямую связь между электрическими сигналами мозга и устройством, которое обрабатывает их для выполнения заданной задачи, например, управления линкором.
Авторы также поднимают вопрос о перспективе общества, которое решит создать наследственную генетическую линию людей, специально предназначенную для лучшей работы с будущими инструментами ИИ. Авторы описывают такую переделку как нежелательную, которая может привести к «разделению человеческой расы на несколько линий, некоторые из которых будут бесконечно более могущественными, чем другие».
«Изменение генетического кода некоторых людей с целью превращения их в сверхлюдей несет с собой многие моральные и эволюционные риски», — пишут авторы. «Если ИИ отвечает за увеличение умственных способностей человека, это может создать у человечества одновременную биологическую и психологическую зависимость от «чужого» интеллекта».
Такая физическая и интеллектуальная зависимость может создать новые проблемы для отделения человека от Машин, предупреждают авторы. В результате дизайнеры и инженеры должны попытаться сделать Машины более человечными, а не делать людей более похожими на Машины.
Но это поднимает новую проблему: выбор людей, которым Машины должны следовать в разнообразном и разделенном мире.
«Ни одна культура не должна ожидать, что будет диктовать другой мораль интеллектов, на которые она будет полагаться», — пишут авторы. «Таким образом, для каждой страны Машины должны будут изучить разные правила, формальные и неформальные, моральные, юридические и религиозные, а также, в идеале, разные правила для каждого пользователя и, в пределах базовых ограничений, для каждого мыслимого запроса, задачи, ситуации и контекста».
Авторы говорят, что общество может ожидать технических трудностей, но эти трудности меркнут по сравнению с проектированием Машин, которые будут следовать моральному кодексу, поскольку авторы заявили, что не верят, что добро и зло являются самоочевидными концепциями.
Киссинджер, г–н Шмидт и г–н Манди призвали уделять больше внимания согласованию Машин с человеческими ценностями. Трио заявило, что они предпочли бы, чтобы никакой искусственный общий интеллект, превосходящий интеллект человечества, не был вообще создан.
Написал аннунах–мракобес alcab на bestiarius.d3.ru / комментировать
