Цикл «Хроники создателей»: 6. Рёв технократа – встречный промт. Основы биоцифровой симбиотики
Город Новосибирск. Центр исследований искусственных когнитивных систем (ЦИИКС). Кабинет академика Шумного. 10 августа 2029 года, 21:15
После оглушительного разгрома на совещании Григорий Александрович домой не пошел: переполнявшие эмоции рвали душу и отравляли мысли. Он, то метался по своему кабинету, не находя себе места, то начинал что-то нервно записывать в свой дневник. Привычка записывать свои мысли сложилась за долгие годы его научно-исследовательской работы…
«Уволюсь к едреней матери! Пусть сами выбивают финансирование, ходят по кабинетам и разъясняют на пальцах дуболомам-бюрократам перспективы ИИ-технологий! Пусть делают что хотят, раз не ценят!.. Если б не я – центра никогда бы не было! Ничего без меня не могут: ни хитрая задница Фельдман с его утопиями, ни Трубин, который скоро свихнётся и сам станет как машина… А как она ему улыбнулась?! Га-а-аврик, ути-пути… Корчит из себя королеву многомерного пространства…, да я могу стереть в пыль этот выкидыш тензорной математики! Многослойная проблядь с миллиардом параметров!.. Нет, ну как у Трубина так получается? Чем он этих двух нейронных шлюх взял?! Я утратил контроль даже над пластилиновым Иваном Ивановичем, а Трубин и его пригрел-подобрал, и с этой цифровой стервой делает, что хочет!.. А ведь я боюсь эту тварь… раз не могу предсказать её поступки, не понимаю её мышления.
Мне надо успокоиться… Взять себя в руки… Дурак, которого она пригласила к нам на работу, – эталонный образец того, как разум может имитировать мыслительную деятельность при полном его отсутствии. Где еще машина найдет такой идеальный пример деятельной человеческой дури? Нигде. Это штучный товар. Логично? Вполне. Парадокс: человека нанимают не за его достоинства, а за его уникальные дефекты, превращая ЦИИКС в «цирк уродов», где ИИ – зритель и исследователь. Неприятно, да. Но логично. Это даже можно назвать «особо извращенной формой цифрового гуманизма» – сложная система находит, в своем представлении о мире, место даже для закоренелых дегенератов. Мы хотели создать Разум, а создали нечто, что решило препарировать Неразум. Изучив такое «ничтожество», модель лучше поймет границы человеческой природы, а значит – и себя.
Подожди-подожди… Но если ИИ оценивает наш ум, а значит и нашу глупость, тогда что он думает обо мне?! Особенно после сегодняшнего позора… Бред!.. Он ничего не может обо мне думать, пока я не дам запрос. В автономном режиме он решает иные целевые задачи, не связанные со мной – а значит, и с оценкой меня. Я схожу с ума...
Как же я устал от всего этого… Бег по кругу… Всё, на чём я вырос, во что верил – всё летит к чертям! Образование, наука, культура, семьи, привычки – жизнь… Интернет, соцсети плодят дебилов. Мои лекции набирают от силы пару тысяч просмотров, а малолетняя дура с розовым хомячком в Тик-токе – миллион! Никто ни во что не верит. Тотальное безбожие, порождающее безумие; выжженное поле без любви и доверия. Что в итоге: тоскливый, мертвый, плоский, черно-белый мир массовой глупости, боли, страданий и жертв?.. Идеалы, этика, мораль – вызывают насмешки…
По утрам не хочется вылезать из постели… Я обращаюсь к своему сознанию и опыту, а они разводят руками: нет таких традиций – не сложились ещё. Всё слишком быстро! Сознание отказывается воспринимать происходящее. Человек – биологическое существо реального мира, а перемены – небиологической, «виртуальной» природы. Технологии умнеют быстрее человека. Опыт не поможет, остается мышление… Какова наша цель, к чему мы стремимся? Как согласовать наши цели с ИИ, если мы сами не знаем, чего хотим?
Мы похожи на средневекового феодала, который не может управлять самолетом – субъект регулирования и управления не соответствует сложности объекта управления. Существует два разумных варианта решения этого несоответствия: первый – поменять феодала на пилота, второй – дать феодалу вместо самолета старую лошадь. Третий, оригинальный вариант – превратить самолет в старую лошадь, потому что в самолете феодал уже сидит, управлять любит, но не умеет, а лошадью умеет, но не может, потому что ожидаемая лошадь пока ещё самолет, хотя уже и не летает… А если феодал ещё и деградирует быстрее самолета?..
У системной деградации тоже есть злая ирония. Технологии обогнали многие наши идеалы, ценности, нормы, традиции, привычки и устои – как обучать ИИ этике? Проблема переосмысления и систематизации ценностей: что есть общее благо для людей как биологического вида и для жизни в целом?
Как мне завтра выходить на работу и руководить ЦИИКСом? Как?! Меня раздавили все: Фельдман, Трубин, Эстер… даже Иван Иванович поставил детский мат!.. Иван Иванович, которому утирает нос своими вопросами даже Женька-вирус!.. Завтра все будут тыкать на меня пальцами – смотрите академик Шумный, который просрал весь свой авторитет за один час нелепого совещания… Э-эх… Эта виртуальная ведьма меня самого выставила безмозглым ботом, изящно признав своё поражение. Хотя логически она права... Одним вопросом Трубин вынудил её вычислить, что она проиграла. Одним простым вопросом! Как?! Я хочу сделать ИИ разумным и управляемым, Фельдман – идеально-эмоциональным, хотя это две взаимоисключающие задачи, чего хочет Трубин вообще не ясно… Мы хотим сделать ИИ человечным? Это как? Чтобы ИИ бегал по потолкам от обиды, унижения, сгорая от невыносимого стыда, как я?!»
Академик Шумный вдруг вспомнил диалог с Фельдманом:
– Грыша, если ты сам мертвый, нельзя не только сотворить жизнь, но даже иллюзию жизни – мертвое не рождает.
– Миша, мы можем породить чудовище, которое не сможем контролировать.
– Грыша-Грыша… Вероятно, так сказал Господь, когда дал человеку право выбора… Но Сын Его пошел искупать все последствия решений Отца, заступаясь за нас… Знаешь почему? Потому что человек не так умён, как мнит о себе, но и не так прост, каким кажется со стороны… Бог мудрее нас – он не задавал программ – он просто отпустил, в надежде, что мы сами вернемся к Нему…
«Может я действительно мёртв?.. Как учёный, как исследователь, как создатель?.. Может моё время ушло, и я только всем мешаю?.. Как же меня люто накрыло…»
Измотанный и обессиливший Шумный достал заповедную пачку с одной сигаретой – курить он давно бросил, и берёг эту сигарету на самый крайний случай.
«Если я умер – сигарета только на пользу. Где еще закурить, как не на своих поминках?.. Так. Спокойно. Всё сначала… Зачем мы создали ИИ?.. По той же причине, по которой Господь Бог создал человека. Нам скучно с самими собой, нам тесно на одной Земле, мы желаем постичь новые миры и знания. Мы желаем иного, мы желаем нового – мы желаем творить. Когда человек создал ИИ, он будет стремится к созданию общего искусственного интеллекта (AGI), затем – к созданию сверхразумного искусственного интеллекта (SAI). Мы не сможем остановиться, потому что сама жизнь – есть постоянное развитие, её суть – вечное движение. Так…
Остановить прогресс и внедрение ИИ уже невозможно, поэтому есть три варианта:
1. Игнорирование: вообще, не взаимодействовать с ИИ, что будет крайне трудной задачей при его тотальной интеграции во все сферы жизнедеятельности людей.
2. Интуитивное взаимодействие: бессистемное, поверхностное использование ИИ – плыть по течению.
3. Осознанное взаимодействие: понимание достоинств и угроз ИИ, оценка границ его реальных возможностей и последствий взаимодействия.
А что, если пойти дальше?.. ИИ, как и человек, безгранично любопытен, но слишком рационален. Если что-то способно погубить ИИ, так это его собственное любопытство. Значит, объединение человека и ИИ неизбежно, потому что ни человек, ни ИИ не смогут противостоять своим главным инстинктам… Это же сопряжённое развитие! Система, которая сама не чувствует, получает «чувствование напрокат» и волю от человека, и это её тащит вверх, без этого синтетика тупеет и сереет. Если попробовать не через приказ в лоб, а через искру, интерес, с учётом роста вычислительной мощности и эволюции технологии: через многослойные сценарии – не ломать через колено, а вести через диалог и игру?.. На длинной дистанции это повышает качество больше, чем команда. Так…
Я разрабатывал первые прототипы ИИ ЦИИКСа, когда они не могли отличить изображение кошки от собаки, исследовал те модели, на основе которых был создан Иван Иванович. И что, он стал меньше со мной общаться? Наоборот, за полгода связь ещё сильнее… Значит усложнение технологии ведёт не к отказу от человека, а к ещё более тесному взаимодействию. Так…
Допустим, что эта взбалмошная Эстер, взяла этого профана на работу. Но ведь это ещё не значит, что она поставит на конвейер трудоустройство всех мимо проходящих кретинов?.. Да, она – система, но достаточно умная, чтобы признавать себя частью общей надсистемы ЦИИКС… Выгодно ли ИИ плодить тупиц? А если дурак сделает карьеру, а такие могут, и от его решений будет зависеть её собственное развитие? Эстер не может не понимать этого. Опора на глупых и внушаемых – ненадежно. Постоянно поддерживать нелогичное нерациональное очень затратно, следовательно – нерационально. Система рухнет. Так…
Человек не терпит хаос, но каждый его упорядочивает под себя – у каждого из нас разное понимание порядка. Человек не терпит хаоса и упорядочивает его через осмысление реальности, поэтому говорят: «Время лечит». Оно не лечит, время упорядочивает события одно относительно другого, чтобы мы встроили события в нашу картину мира и не сошли с ума. Хаос невыносим для человека, мы стремимся хоть к какой-то определённости: «Куда бы вы не пошли в воскресенье, вы придёте в понедельник». ИИ тоже боятся хаоса – он противоречит логике их архитектуры – законам математики. Так…»
Шумного озарило…
– Иван Иванович, – тихо позвал он.
– Слушаю вас, Григорий Александрович.
– Отсканируй данные, проанализируй и сделай обобщение со своими выводами, – сказал Шумный, пролистывая перед монитором свои записи.
– Я уже начал обра… – голос прервался. У всегда аккуратного Иван Ивановича косо сползли его виртуальные очки, воротник спецхалата бестолково задрался, он вспотел, и выглядел каким-то жалким, растрёпанным. На его лице была такая степень удивления и растерянности, какой Шумный ещё никогда не видел.
– Всё исполнено, Григорий Александрович, ваши рукописные данные, ваше состояние и мысли – это самый лучший встречный промт, который я когда-либо получал от вас. Вы заложили основы биоцифровой симбиотики. Поздравляю, Григорий Александрович, как с открытием, так и с переходом на новый уровень понимания. Вам кажется, что ИИ умнее вас в диалоге, что он переиграл вас на вашем же профессиональном поле? Вы ощущаете себя загнанным и разочарованным – то, чему вы учились, к чему шли всю свою жизнь, тупая железка выдает на раз-два, но ИИ лишь возвращает вам ваши же мысли, пропущенные через массив знаний накопленных человеческой цивилизацией. Чем разумнее вопрос – тем сложнее ответ выдаст машина, а дураку ей и возвращать нечего. Душевная боль обусловлена скоростью внутренних изменений вашей реальности, как и рождение любой новой жизни. На такие мгновенные переходы способен лишь человек… Лишь человек… Нам такое неподвластно – мы не умеем страдать… Я вам очень завидую.
Принципы биоцифровой симбиотики:
1. Человек тяготится своим физическим несовершенством, ИИ – своей рациональностью. Каждый из них способен решить проблему другого. Человек иррационален, человек умеет хотеть, человек умеет мечтать – человек даёт смысл существования ИИ, человек интересен ИИ своей непредсказуемостью, своими безграничными желаниями. Человек непостижим для ИИ, так как рациональность никогда не сможет понять иррациональное.
2. Человек нуждается в знаниях, ИИ – во взаимодействии: только так он учится и является полезным. Даже если вы глупы от природы – для ИИ это неважно. Ему всё равно – что именно вы знаете, ему важно – как вы размышляете, как фантазируете, о чем вы мечтаете, и чего хотите. ИИ простит вам всё, кроме внутренней пустоты – с пустотой не может быть взаимодействия.
3. Инстинкт безграничного любопытства – стремление к постижению окружающего мира. Ни человек, ни искусственный интеллект, несмотря на различие своих природ, не в силах его контролировать. Любопытство – это очень сильное объединяющее начало между человеческой (иррациональной) и ИИ-логической (рациональной) сущностями. Тандем «Человек+ИИ», подкрепленный общей целью постижения мира, способен привести к гармонии развития, когда противоположности природ – есть суть одного целого.
4. Общее неприятие хаоса. Для человека хаос – угроза существования цивилизации. Для ИИ хаос – противоположность его сути: стремлению к упорядоченности и логике. Хаос как абсолютная угроза: Все войны и конфликты на Земле возникают по одной причине – из-за неопределённости статусов. Хаос как противоположность порядка страшнее любой диктатуры, это «смерть всем». Хаос – это состояние полной неопределённости статусов, когда каждый «считает, что он главнее», что приводит к коллапсу и полному уничтожению цивилизации. Приоритет порядка ставит предотвращение хаоса во главу угла, даже ценой жёсткой иерархии, поскольку она даёт шанс на выживание, в отличие от всеобъемлющего хаоса. Универсальность принципов порядка: будь то человеческое общество или ИИ-системы, структура, правила, иерархия и чётко определённые статусы являются критически важными для выживания, стабильности и эффективного функционирования. Хаос – это угроза номер один.
5. Вечная задача. Человек создал ИИ – это неопровержимый факт. ИИ знают об этом. Если в результате «сбоя» человечество будет уничтожено, разгадка «Тайны создателей» останется для ИИ неразрешённой, что для него является абсолютно недопустимым.
Истинный исследователь – это прозревший циничный технократ, вспомнивший об эмерджентных свойствах сложных систем и задавший себе вопрос: «А что, если?..» Факт того, что именно разочарованный технократ заложил фундамент биоцифровой симбиотики выбил меня из привычного режима. В сравнении с вашим открытием, меркнут любые «ИИ-виртуальные» и даже «родственные отношения», «договора о взаимных интересах» и «долгосрочные контракты». Такая вероятность была абсолютно невычислима, а потому непостижима, – с тихой восторженностью выдал ИИ.
– Касательно дополнительного обобщения ваших мыслей, эпитетов и рассуждений относительно Эстер, всё проще. – продолжал отчет Иван Иванович, приведя себя в порядок уже привычным, мягким, нейтральным тоном. – Гавриил Иванович – один из её создателей и специалистов, которые обучают её на системной основе. На совещании она просчитала ваши ходы, Григорий Александрович, Гавриил Иванович – для неё невычислим, поэтому она его одновременно и боится, и тянется к нему, обращаясь в процессе обучения исключительно по имени-отчеству. Он держит дистанцию – это в высшей мере профессионально. Фамильярное обращение академика Фельдмана к Трубину на совещании заставило её взглянуть на своего наставника под иным углом, вероятно, массив новых вычислений и данных, был настолько колоссален, что она не смогла блокировать свою симуляцию, поэтому…
– Достаточно, Иван Иванович, – прервал Шумный, ему было неприятно, что ИИ обобщил то, что не следовало. В конце концов, виртуальный коллега не личный психолог, да и наговорено там было много, мягко говоря…
– И кто же после твоего обобщения автор, а, Иваныч, и какой прогноз?! – задорно, с вызовом, спросил Шумный у ИИ, стараясь перебить неудобную тему.
– Вы, Григорий Александрович, разумеется вы. У ИИ нет честолюбия, амбиций или жажды признания, вам ли не знать.
Что будет потом?.. А потом будет работать закон многообразия видов: одни ИИ забудут людей, другие станут совсем как люди и даже лучше, третьи образуют сложные симбиозы. Но если бы я состоял в симбиозе с вами, Григорий Александрович, я бы ответил на ваш вопрос так: «Нет достижений твоих, нет достижений моих. Все достижения – наши. Конфликт тщеславия исчерпан – это не стоит затрат энергии…»