AMD в 28,3 раза увеличила энергоэффективность новых ИИ-серверов образца 2024 года

Стало известно, что компания AMD добилась целей, поставленных в 2021 году: повысить к 2025 году энергоэффективность своих процессоров EPYC и ускорителей Instinct в 30 раз по сравнению с 2020 годом. Однако с процессорами EPYC 9005 серии Turin и графическими процессорами Instinct MI300X компания в основном достигла своей цели, причём на год раньше.

То есть уже сейчас AMD добилась повышения энергоэффективности своих устройств в 28,3 раза по сравнению с образцами 2020 года.

Чтобы добиться необходимых результатов, вендор использовал компьютер с двумя 64-ядерными процессорами EPYC 9575F, восемью ускорителями Instinct MI300X и 2304 ГБ памяти DDR5. Производительность логического вывода была протестирована в ИИ-модели Llama3.1-70B с непрерывной пакетной обработкой. В процессе сложного набора вычислений AMD определила энергоэффективность этой системы и сравнила её с системой 2020 года, обнаружив, что новая машина в 28,3 раза энергоэффективнее старой.

AMD не раскрывает технические характеристики своей системы 2020 года, но предполагается, что машина основана на процессорах EPYC серии 7002, имеющих микроархитектуру Zen 2 с 64 ядрами на процессор и ускорителями Instinct MI100, основанных на архитектуре CDNA 1.

Сам вендор заявляет, что в дополнение к аппаратным улучшениям, достигнутым «грубой силой», более высокая производительность была достигнута «за счёт сочетания архитектурных усовершенствований и оптимизации программного обеспечения».