Лидером в сфере производства чипов для ИИ считается компания Nvidia, продукты которой, например, графический процессор H100, используются практически во всех современных приложениях на базе ИИ. Обучение популярного чат-бота ChatGPT проходило с помощью процессоров Nvidia: успех разработки способствовал тому, что всего за девять месяцев стоимость компании выросла с 1000 миллиардов до более чем 2000 миллиардов долларов.
Вызов Nvidia на рынке искусственного интеллекта готов бросить швейцарец: соучредитель американской компании Cerebras Systems Жан-Филипп Фрикер представил в конце марта в Лозанне чип, который, по его словам, даже лучше, чем продукты Nvidia. Гигантский чип WSE-3 оснащен 4 000 миллиардами транзисторов. По сравнению с H100 от Nvidia, чип WSE-3 имеет в 52 раза больше ядер и в 800 раз больше памяти, а его пропускная способность в 7 000 раз больше. Компания Cerebras, в которой работает более 350 сотрудников и стоимость которой оценивается более чем в 5 миллиардов долларов, разрабатывает также модули (своего рода большие компьютеры), в которых можно использовать ее чипы. Последний из них, получивший название CS-3, обладает мощностью 125 петафлопс, что позволяет ему выполнять 125 миллионов миллиардов операций в секунду. Система CS-3 может создавать языковые модели в десять раз больше, чем GPT-4 от OpenAI и Gemini от Google, и при этом стоит в разы дешевле.
Среди клиентов Cerebras – крупные компании в сфере здравоохранения (AstraZeneca и GlaxoSmithKline) и энергетики (TotalEnergies). Аргоннская национальная лаборатория, один из крупнейших исследовательских центров США, также сотрудничает с Cerebras Systems, как и компания из Абу-Даби G42, которая хочет создать арабского конкурента ChatGPT.
А вот расположенный в Лугано Швейцарский национальный центр научных вычислений (CSCS) отдает предпочтение Nvidia. Наша Газета уже рассказывала, что в конце прошлого года Федеральные политехнические школы Цюриха (ETHZ) и Лозанны (EPFL) запустили инициативу «Swiss AI», направленную на то, чтобы позиционировать Швейцарию как лидера в разработке и использовании прозрачного и надежного искусственного интеллекта. Способствовать этому должен суперкомпьютер «Альпы», использующий карты Nvidia Grace Hopper. В целом, CSCS сотрудничает с Nvidia уже более 10 лет, помогал в разработке чипов и сделал заказ на них задолго до бума ИИ, став первым государственным научным учреждением, которое приобрело эти графические карты. Финансовые подробности сделки не разглашаются.
Новые чипы способны сформировать модель типа GPT-3 всего за два дня. Компьютер с 10 000 подобных суперчипов может выполнять четыре пета операций в секунду (пета равна 1 000 000 000 000 000 000 000 000 000 000 000 000 000) и должен позволить работающим в Швейцарии ученым совершать новые открытия. Во время расчетов процессоры нагреваются до 90 градусов и будут охлаждаться непосредственно водами из озера Лугано. Центр оснащен 17 трансформаторами, все электричество поступает от гидроэлектростанций региона.
Вычислительные мощности суперкомпьютера могут использоваться для преобразования данных в реалистичные изображения, например, демонстрация распространения огня, созданная с помощью 10 миллиардов точек расчетов, поможет найти новые способы борьбы с пожарами. Компьютер также должен помочь улучшить прогнозы погоды и способствовать разработке швейцарского генеративного ИИ в качестве альтернативы технологическим компаниям: он должен быть прозрачным, заслуживающим доверия и соответствовать юридическим и этическим требованиям. Официальная церемония открытия суперкомпьютера состоится 14 сентября, в день открытых дверей.
