Что-то среднее между SSD и HBM: SK Hynix и SanDisk представили новый стандарт памяти HBF
Компании SK Hynix и SanDisk анонсировали создание нового стандарта памяти — HBF (High Bandwidth Flash). Технология предназначена для систем, которые используются для тренировки ИИ. По задумке инженеров, HBF заполнит огромный разрыв в производительности между сверхбыстрой оперативной памятью HBM и традиционными твердотельными накопителями (SSD).
Память HBM имеет колоссальную скорость (до 1,2 ТБ/с), но ограниченный объем и высокую цену. SSD, в свою очередь, предлагает огромные объемы, но даже самые быстрые современные модели выдают «всего» 28 ГБ/с, что слишком медленно для мгновенного доступа к обучающим данным.
HBF создается как промежуточный слой. Аналитики предполагают, что отдельные чипы нового стандарта будут обеспечивать скорость от 10 ГБ/с каждый, что позволит создавать массивы с общей пропускной способностью в сотни гигабайт в секунду. Одной из ключевых задач при разработке HBF является радикальное повышение производительности на ватт потребляемой мощности.
Новый стандарт будет развиваться под эгидой Open Compute Project. Разработчики нацеливают HBF прежде всего на серверы инференса (вывода данных) — именно там требуется быстрое хранение и извлечение контента, генерируемого ИИ-ботами в реальном времени.
Точные спецификации HBF пока не раскрыты, в официальном пресс-релизе упоминается, что массовый спрос на сложные гибридные решения такого типа сформируется ближе к 2030 году.