Сегодня в понедельник открылась конференция HotChips 2024, но в воскресенье провели несколько обучающих сессий, которые разделили на две темы: LLM для разработки чипов и охлаждение все более мощных и энергоемких чипов. NVIDIA использует LLM при разработке чипов из-за все более коротких промежутков времени между поколениями GPU и преимуществ в эффективности ( см. ChipNeMo ). В инструментарий EDA Tools многие производители тоже добавляют поддержку ИИ.
Есть фактор при разработке чипов, с которым ИИ пока не может ничего поделать: энергопотребление CPU, GPU и AI-ускорителей постоянно растет. Его необходимо отводить от чипов и рассеивать. При выделяемой мощности 700 Вт и более на чип без водяного охлаждения не обойтись. О преимуществах и недостатках охлаждения водой, а также о различных концепциях теплообмена в центрах обработки данных можно написать целые книги.
На конференции HotChips 2024 компания Frore ...