Возможно, на рынке вычислений ИИ в обозримом будущем произойдёт ещё одна революция. Как минимум стартап Extropic говорит, что стремится именно к этому.
Заявления у компании действительно весьма серьёзные. В Extropic говорят, что они создали подход к вычислениям, который позволит создавать чипы, которые на много порядков быстрее и более энергоэффективны, чем CPU, GPU и прочие современные решения.
Компания представила документ Litepaper, в котором изложен подход к ускорению искусственного интеллекта посредством термодинамических вычислений. Кроме того, Extropic объявила о создании прототипа соответствующего процессора, причём этот чип мало того, что изготовлен из алюминия, а не кремния, так ещё и обладает сверхпроводимостью. Правда, это означает, что работает он при сверхнизких температурах.
На изображении выше показан ранний вариант структуры чипа, в котором тестировались несколько возможных конструкций сверхпроводящих нейронов. Некоторые из этих нейронов подобны существующим сверхпроводящим потокам кубитов. Эти нейроны используют эффект Джозефсона как источник нелинейности, которая возникает, когда два сверхпроводника находятся рядом друг с другом. Эта нелинейность необходима устройству для доступа к негауссовским распределениям вероятностей, которые необходимы для моделирования реальных приложений с «толстыми хвостами». Кроме того, процедуры цифровой выборки по Гауссу широко распространены и высоко оптимизированы. Итак, если аналоговое устройство должно обеспечить значительное ускорение по сравнению с традиционным процессором, необходима негауссовость.
Эти нейроны представляют собой основные строительные блоки, которые объединяются в более крупную сверхпроводящую систему. В такой более крупной системе множество линейных и нелинейных нейронов объединяются вместе, чтобы создать схему, которая осуществляет выборку из богатого и многомерного распределения. Смещения нейронов и сила взаимодействия — все это настраиваемые параметры распределения, позволяющие одному устройству воплощать широкое семейство вероятностных распределений.
Сверхпроводящие чипы Extropic полностью пассивны, а это означает, что мы тратим энергию только при измерении или манипулировании их состоянием. Вероятно, это делает эти нейроны самыми энергоэффективными во Вселенной. Эти системы будут очень энергоэффективными в любом масштабе: с помощью этих систем Extropic ориентирована на мелких и дорогостоящих клиентов, таких как правительства, банки и частные облака.
Но компания работает и над чипом, который будет функционировать при комнатной температуре, однако в этом чипе вместо джозефсоновских переходов, на которые опирается первый вариант в качестве замены традиционным транзисторам, будут использоваться как раз обычные транзисторы. Это приведёт к снижению энергоэффективности, но сам продукт будет намного более универсальным.
Помимо аппаратного обеспечения, Extropic занимается программным обеспечением, которое интерпретирует абстрактные спецификации энергетических моделей (EBM) для своих процессоров. Суть в том, что в основе концепции компании лежит совершенно другая логика вычислений, нежели в существующих массовых решениях. Прототипы пассивных термодинамических чипов Extropic физически реализуют вероятностные алгоритмы, используемые в искусственном интеллекте, как быстрый и энергоэффективный процесс. Это делает их гораздо более подходящими для современных алгоритмов искусственного интеллекта, чем традиционные вычислительные процессоры, которые довольно неестественно пытаются учесть вероятность и неопределенность, что приводит к снижению эффективности. Само собой, такой подход требует и нового ПО.
