Победное шествие искусственного интеллекта продолжается. Народ уже привык, перестал бояться и потерял интерес, однако это не значит, что само явление сошло на нет. Аналогичным образом люди привыкают, например, к новостям о революции в газетах и пролистывают их — если только революция не приходит к ним в дом посредством голода, расправ и грабежей. Так уж устроена наша психика: вопрос «что на завтрак» занимает нас значительно больше, чем вопрос «что на баррикадах в Петрограде».
Мы пока что не знаем, к чему приведёт революция ИИ. Может быть, только к хорошему или хотя бы преимущественно к хорошему — надежда на благоприятный исход есть. Вместе с тем, тревожиться нам есть о чём.
Теперь несколько новостей из мира ИИ.
1. Александр Жадан, который год назад написал диплом при помощи ИИ, рассказал о своём скрипте, который помог ему найти жену на Тиндере. Программа делала отбор девушек по внешности и по другим характеристикам, потом проводила с ними собеседование и, в случае удачи, назначала свидание. Вот тут сама история (
ссылка).
Лично мне история кажется сомнительной. С одной стороны, такое может сработать, так как большая часть людей косноязычна, из-за чего даже галлюцинирующий ИИ-бот выглядит на общем фоне верхом рациональности. Кроме того, большая часть людей зациклена на собственной персоне: нестыковки в чужих репликах люди не замечают, так как чужие реплики для них — это всего лишь фон для своих реплик. В общем, если нормально настроить робота, система будет работать.
С другой стороны, вчерашний студент пишет, что на разработку проекта у него ушли 120 часов. Если бы я задался целью сделать нечто подобное, я бы закладывался на значительно большее время, так как все компоненты, которые использовал господин Жадан, сырые, и ошибок в ходе настройки должно вылезать огромное количество. Некоторые другие детали рассказа также выглядят странно.
Перед нами или очень способный программист, за которого должны драться Яндекс со Сбером, или талантливый фантазёр-пиарщик, который вот уже второй раз зажигает Рунет новостью из мира технологий. Полагаю, оно и неважно. Конкретно эта история может быть выдумкой, однако все нужные технологии уже в наличии, так что появление полноценных электронных секретарей, которые будут работать «из коробки», и которым можно будет поручить в том числе общение на условном Тиндере — только вопрос времени. Полагаю, мы увидим таких секретарей на рынке уже вот-вот, может быть, даже в 2024 году.
2. Экстремист Цукерберг, глава Меты, взялся за разработку универсального интеллекта (УИ), то есть интеллекта, превышающего человеческий (
ссылка). Возможно, у его искина будет открытый исходный код, что совершенно логично для догоняющего. Охранять свои секреты Цукербергу не надо, так как команда Сэма Альтмана его опережает, а вот привлечение сообщества технологических энтузиастов будет полезным. Позже, когда удастся вырваться вперёд, код всегда можно будет закрыть, оставив сообщество с носом. Именно так, кстати, поступила компания ОпенАИ, разработавшая ЧатЖПТ: как ясно из названия компании, она тоже вначале собиралась держать свой код открытым для всех.
Обучение нейросетей — дело затратное, так как требует найма команды дорогостоящих программистов и покупки огромного количества профессиональных видеокарт. Если мы говорим о борьбе за первое место, то речь идёт как минимум о миллиардах долларов, скорее даже о десятках миллиардов. Но деньги у господина Цукерберга есть, и видеокарты он уже начал скупать (
ссылка).
Интересно, как разработчики будут строить внутреннюю мотивацию для своего УИ. Они могут или скопировать человеческую систему нейромедиаторов — дофамин, серотонин, вот это всё — или они могут создать более совершенную систему постановки целей с нуля, сразу исключив из неё известные недостатки человеческого мозга.
3. Энтузиасты пишут, что программисты ещё не исчерпали задел грубой мощности. Цукерберг сможет за три месяца потратить на обучение своей модели в 800 (!) раз больше вычислительных ресурсов, чем было потрачено на обучение ЖПТ-4, самого умного ИИ в свободном доступе на сегодняшний день. Если учесть архитектурную и алгоритмическую оптимизацию, отрыв от ЖПТ-4 получится ещё сильнее — может быть, в 10 тысяч раз (
ссылка).
Разворачивание серверов, слаживание команд и эксперименты займут какое-то время, так что мы можем ожидать результат примерно в первом квартале 2025.
Размер имеет значение, так что новые искины точно должны быть умнее. Насколько они станут умнее конкретно в 2025, пока что неясно. Но если учесть, что ЖПТ-4 уже сейчас довольно умён, а разница в 10 тысяч раз — огромная разница, мы можем осторожно ожидать технологических чудес.
4. ИИ тем временем уже двигает науку, выполняя механическую работу, для которой при иных обстоятельствах пришлось бы задействовать целую армию лаборантов. К примеру, недавно американские учёные поручили роботу перебрать сотни тысяч формул, чтобы найти перспективный аналог ЛСД. Робот успешно справился с задачей (
ссылка).
5. Чтобы робот был по-настоящему умным, он должен не только хорошо соображать, но и рационально мыслить, то есть логически проверять свои рассуждения, чтобы отбрасывать неверные гипотезы и делать выводы на твёрдой почве.
Работа в этом направлении ведётся вполне успешно. Одна из иллюстраций успеха — система, которая решает задачи по геометрии на уровне медалистов Международной математической олимпиады (
ссылка).
Само по себе решение геометрических задач малополезно, а вот умение рассуждать шаг за шагом, как это делают математики, является гранью, которая отделяет робота-советника, способного только болтать, от робота-исполнителя, способного самостоятельно выполнять реальную работу.
6. Мой прогноз по поводу «прибеднения» разработчиков, прячущих свои достижения, кажется, оказался верным. Компания ОпенАИ не торопится показывать нам ЖПТ-5, следующую версию робота, однако она постоянно улучшает ЖПТ-4, делая его всё более умным. Свежая версия модели, к примеру, получила прививку от лени — она теперь усерднее выполняет задания пользователей (
ссылка).
Возможно, мы скоро получим и ЖПТ-5, но не официально, а под видом очередного мелкого улучшения ЖПТ-4. Это позволит Сэму Альтману сохранить лидерство, но при этом не привлечь излишнего внимания политиков, требующих запретить или ограничить разработку мощных ИИ.
7. Миллиардеры из Кремниевой долины собираются построить утопический город в заливе Сан-Франциско, в котором они смогут спрятаться от бурных перемен (
ссылка).
Учитывая новости последних лет, логичный шаг. Но, полагаю, несколько наивно размещать своё убежище рядом с Сан-Франциско. Проект Марка Цукерберга, который строит огромный бункер на отдалённых Гавайях, выглядит практичнее: на Гавайях недостаточно населения, чтобы толпа взяла его бункер штурмом, и Гавайи не настолько важны, чтобы их кто-нибудь всерьёз бомбил.
Если уж строить бункер в США, так где-нибудь в горах Сьерра-Невада: убедившись предварительно, что рядом нет военных баз. Впрочем, с другой стороны, первое правило хорошего убежища — это секретность, так что я не удивлюсь, если у Сэма Альтмана, Джорджа Сороса и остальных подобные горные бункеры уже давно есть.
