Маск выпустил видео, демонстрирующее кластер суперкомпьютеров, который теперь называется Cortex. В 20-секундном ролике продемонстрирована лишь малая часть огромного дата-центра, заполненного серверами с графическими процессорами Nvidia H100. Эти процессоры являются основой для обучения таких мощных языковых моделей, как GPT-4 и PaLM 2. Кластер пока не достроен и не функционирует должным образом.
Мощный суперкомпьютер строится на гигафабрике Tesla в Техасе. В его состав войдут 50 000 графических процессоров Nvidia и собственное оборудование ИИ Tesla. Ожидается, что это позволит ускорить разработку технологии полностью автономного вождения и гуманоидного робота Optimus. По словам Илона Маска, этот суперкомпьютер на начальном этапе будет иметь мощность 130 МВт. В перспективе она может быть увеличена до 500 МВт.
Кластер мощностью 100 МВт должен был быть готов к августу и совпасть с презентацией роботакси. Для ускорения строительства Маск приостановил другие проекты.
По словам источников, пока кластер работает на временной системе охлаждения и не будет полностью функционировать до завершения строительства холодильной установки. Кроме того, Tesla нуждается в дополнительных сетевых фидерах. Запуск суперкомпьютера может задержаться до октября, что совпадает с новыми https://m.hightech.plus/2024/07/16/ilon-mask-obyasnil-prichi... презентации роботакси.
Параллельно с этим Маск https://m.hightech.plus/2024/07/08/mask-stroit-dva-superkomp... разработку еще одного многомиллиардного вычислительного кластера для своего личного ИИ-стартапа xAI. Суперкомпьютер для xAI, по прогнозам, станет одним из крупнейших в мире кластеров искусственного интеллекта на базе графических процессоров. Маск уже заказал 100 000 графических процессоров H100 от Nvidia, часть из которых получена. Суперкомпьютер обеспечит работу следующей версии GrokAI, чат-бота с искусственным интеллектом, доступного для премиум-подписчиков X. Dell и Supermicro поставят серверы для суперкомпьютера. Есть планы по обновлению системы до 300 000 графических процессоров Nvidia B200 к следующему лету.
Проект суперкомпьютерного кластера сопровождается противоречиями. Акционеры Tesla подали иск против Илона Маска, обвиняя его в многочисленных нарушениях фидуциарных обязанностей. Один из пунктов обвинения — перенаправление партии процессоров Nvidia, изначально предназначавшихся для Tesla, в пользу его личной компании xAI. Маск объяснил это отсутствием необходимой инфраструктуры на тот момент. Однако в ходе судебного разбирательства ему предстоит обосновать, почему Tesla, заказавшая дефицитные и дорогостоящие процессоры, не была готова к их приему, в то время как его частный проект оказался к этому готов.
