В основе чипа 3D X-AI лежит слой нейронных схем, который обрабатывает данные, хранящиеся в 300 слоях памяти на одном кристалле. По информации NEO Semiconductor, эта 3D-память обеспечивает 100-кратное повышение производительности благодаря 8000 нейтронным цепям, которые обрабатывают данные с помощью искусственного интеллекта в памяти. Он также имеет в восемь раз большую плотность памяти, чем современные HBM, и, что более важно, обеспечивает снижение энергопотребления на 99% за счет уменьшения объема данных, которые необходимо обрабатывать на энергопотребляющих графических процессорах.
Компания заявляет, что X-AI имеет емкость 128 ГБ и может поддерживать обработку данных с использованием искусственного интеллекта 10 ТБ / с на матрицу. Объединение двенадцати матриц в одной упаковке HBM может обеспечить емкость хранилища более 1,5 ТБ и пропускную способность обработки 120 ТБ / с.
Разработка искусственного интеллекта расширяет возможности вычислительной техники, и многие компании исследуют технологии, которые также увеличат скорость обработки данных и пропускную способность связи. По мере того, как мы получаем более быстрые и эффективные полупроводники, шина, которая передает данные между компонентами, становится узким местом. Таким образом, подобные технологии позволят всем компонентам быстрее работать вместе.
Например, несколько компаний, включая Intel, Kioxia и TSMC, работают над оптической технологией, позволяющей ускорить обмен данными внутри материнской платы. Но, перенеся часть обработки искусственного интеллекта с графического процессора на HBM, NEO Semiconductor может помочь снизить рабочую нагрузку, тем самым сделав его намного эффективнее нынешних энергоемких ускорителей искусственного интеллекта
Сообщение NEO Semiconductor разрабатывает 3D DRAM с технологией искусственного интеллекта на замену HBM появились сначала на Время электроники.
