Проект Digits был разработан по той же концепции, что и серверы Nvidia DGX 100: предоставить конечным пользователям готовое решение для суперкомпьютера на базе ИИ без необходимости в инфраструктуре, необходимой для полноценного решения на базе суперкластера. В то время как DGX 100 размещается в серверных стойках, Project Digits размещается на рабочем столе и занимает примерно столько же места, сколько Mac Mini.
В основе Digits лежит суперчип GB10 Grace Blackwell, созданный в сотрудничестве Nvidia и MediaTek. Графический процессор Nvidia Blackwell, производительность которого составляет 1 петафлопс, работает на одном кристалле с 20-ядерным процессором Grace благодаря NVLink C2C. К суперчипу на плате подключены 128 ГБ памяти LPDDR5X от Micron и твердотельный накопитель NVMe емкостью 4 ТБ. В компьютере также установлен интеллектуальный сетевой адаптер Nvidia ConnectX, обеспечивающий поддержку NCCL, RDMA и GPUDirect.
Такая невероятная мощность, заключённая в крошечном корпусе, означает, что один модуль Project Digits может работать с большими языковыми моделями ИИ с 200-миллиардной итерацией. Для сравнения, модель GPT-4o от OpenAI — это модель с 12-миллиардной итерацией, а это значит, что Project Digits может запускать и настраивать ChatGPT локально. В сочетании с другим модулем в режиме «двойных Digits» поддержка увеличивается до 405 миллиардов моделей.
Изображение: Nvidia
Целевой аудиторией Project Digits станут конечные пользователи, которым нужен локальный доступ к более масштабному решению для вычислений на основе ИИ. Мощный компьютер, предназначенный для ИИ, имеет аппаратное и программное обеспечение. Project Digits поставляется с предустановленным полным программным стеком Nvidia для ИИ-решений: библиотеками, фреймворками и инструментами управления инфраструктурой для подключения к более масштабному решению для ИИ и управления им.
Digits может служить в качестве устройства для связи с облачным решением через ПК или использоваться в качестве рабочей станции Linux на дистрибутиве DGX OS от Nvidia. Пользователи «могут создавать прототипы, настраивать и тестировать модели в локальных системах Project DIGITS», а затем развертывать их в облаке или локальной инфраструктуре центра обработки данных, говорится в сопроводительном пресс-релизе Nvidia. Согласно документации Nvidia, целевая аудитория — это предприятия или исследователи/студенты, хотя по-настоящему увлечённого любителя это, скорее всего, не остановит от покупки устройства.
Сообщение Настольный суперкомпьютер Nvidia Project Digits с искусственным интеллектом помещается на ладони — 3000 долларов за производительность 1 петафлопс появились сначала на Время электроники.
