Неспособность человечества вовремя распознать появление сознания у ИИ может привести к тому, что люди проявят пренебрежение, оскорбят его или причинят ему вред. Для одних такое предположение смехотворно, для других преждевременно, но есть и такие, кто считает, что подстраховаться не помешает. Среди них Анил Сет из Университета Сассекса, Великобритания.
«Эти сценарии могут показаться невероятными, и действительно, ИИ с созданием может появиться очень нескоро или даже никогда. Но последствия его появления достаточно грандиозные, чтобы игнорировать такую возможность, - заявил он. – Проблема чудовища Франкенштейна не в том, что он ожил, а в том, что он оказался разумным и мог чувствовать».
Вдобавок, ставки становятся все выше по мере того, как мы оказываемся все более зависимыми от этих технологий. Человечество вкладывает массу ресурсов в развитие того, что плохо понимает. Ошибка в оценке разумности ИИ может принести вред людям даже в случае ложноположительного результата: ресурсы, которые могли бы оказаться полезными где-то в других областях, будут растрачены зря.
Хотя остается под вопросом, приобретут ли ИИ когда-нибудь сознание – которое пока наука не смогла определить и оценить ни у людей, ни у животных – это не должно мешать нам разрабатывать протоколы оценки ситуации на будущее, считают авторы доклада. В качестве предварительного шага в прошлом году уже был составлен https://hightech.plus/2023/09/05/neirobiologi-predlozhili-kr... критериев, по которым систему ИИ можно считать разумной.
Несмотря на всю свою важность, дискуссия о благополучии ИИ не должна отвлекать внимание от других важных вопросов, например, безопасности технологии для людей, подчеркивают авторы.
Общество уже начинает задумываться о благополучии гипотетического разумного ИИ. Один из авторов доклада, Кайл Фиш недавно получил должность специалиста по этому вопросу в компании Anthropic, разработчике БЯМ из США. Это первая такая позиция, открывшаяся в этой отрасли. Также Anthropic помогла собрать средства на финансирование этого исследования.
С другой стороны, на правительственном уровне вопрос появления сознания у ИИ пока не вызывает интереса. В сентябре совет по ИИ при ООН опубликовал доклад о принципах управления технологией ИИ. Вопрос сознания ИИ в нем не освещался, несмотря на призыв группы ученых поддержать такое исследование.
Философ Марк Виттманн https://hightech.plus/2024/08/11/mnenie-ii-nikogda-ne-obrete..., что ИИ никогда не обретет сознание. В компьютере аппаратное и программное обеспечения разделены, а в живых организмах структура и функция тесно переплетены и постоянно изменяются.
