Добавить новость

Ульяновская студентка выдумала изнасилование, когда парень не подарил ей iPhone

Глава Егорьевска наградил боксеров-победителей регионального турнира

Глава Лосино-Петровского Сергей Джеглав проверил благоустройство Суворовских прудов

В Доме культуры села Городково подключили газ



News in English


Новости сегодня

Новости от TheMoneytizer

Jensen Huang says the 3 elements of AI scaling are all advancing. Nvidia's Blackwell demand will prove it.

Scaling has been a key concern for AI leaders.
  • Reports on an AI progress slowdown raised concerns about model scaling on Nvidia's earnings call.
  • An analyst questioned if models are plateauing and if Nvidia's Blackwell chips could help.
  • Huang said there are three elements in scaling and that each continues to advance.

If the foundation models driving the panicked rush toward generative AI stop improving, Nvidia will have a problem. Silicon Valley's whole value proposition is the continued demand for more and more computing power.

Concerns about scaling laws started recently with reports that OpenAI's progress in improving its models was slowing. But Jensen Huang isn't worried.

The Nvidia CEO got the question Wednesday, on the company's third-quarter earnings call. Has progress stalled? And could the power of Nvidia's Blackwell chips start it up again?

"Foundation model pre-training scaling is intact and it's continuing," Huang said.

He added that scaling isn't as narrow as many think.

In the past, it may have been true that models only improved with more data and more pre-training. Now, AI can generate synthetic data and check its own answer to —in a way— train itself. But, we're running out of data that hasn't already been ingested by these models, and the impact of synthetic data for pre-training is debatable.

As the AI ecosystem matures, tools for improving models are gaining importance. The first generation of post-training improvement for models came from armies of humans checking AI's responses one by one.

Huang shouted out OpenAI's Strawberry or o1 model, which uses more modern strategies like "chain of thought reasoning" and "multi-path planning." These are both tactics that encourage the models to think longer and in a more step-by-step fashion so that the responses are more considered.

"The longer it thinks, the better and higher quality answer it produces," Huang said.

Pre-training, post-training improvements, and new reasoning strategies all improve models, Huang said. Of course, if the model is doing more computing to answer the same fundamental question, that's where higher-powered compute is necessary — especially since users want their responses just as fast, if not faster.

The demand for Blackwell is the result, he said.

After all, the first generation of foundation models took about 100,000 Hopper chips to build. "You know, the next generation starts at 100,000 Blackwells," Huang said. The company said commercial shipments of Blackwell chips are just beginning.

Read the original article on Business Insider

Читайте на 123ru.net


Новости 24/7 DirectAdvert - доход для вашего сайта



Частные объявления в Вашем городе, в Вашем регионе и в России



Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Smi24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.




Новости от наших партнёров в Вашем городе

Ria.city

Обвинившая замглавы Раменского в нападении жительница сама дала ему по лицу

Белоусов: РФ и КНДР заинтересованы в комплексном развитии союзнических отношений

О задержке нескольких рейсов сообщили в аэропорту Ставрополя

9-й Московский еврейский кинофестиваль завершит свою образовательную программу разговором об уроках прошлого в настоящем

Музыкальные новости

В Солнечногорске сотрудники Росгвардии почтили память коллег, погибших при исполнении служебного долга

LG STYLER В ЦЕНТРЕ ВНИМАНИЯ НА ТАЙБЭЙСКОЙ НЕДЕЛЕ МОДЫ

Никита Михалков публично признался в любви Галине Польских в день её рождения

LG STYLER В ЦЕНТРЕ ВНИМАНИЯ НА ТАЙБЭЙСКОЙ НЕДЕЛЕ МОДЫ

Новости России

9-й Московский еврейский кинофестиваль завершит свою образовательную программу разговором об уроках прошлого в настоящем

Анатолий Вассерман: В мире «социализма 2.0» наше место будет гораздо лучше нынешнего

В Подольске полностью потушили крупный пожар на производстве

АБХАЗИЯ. Абхазия прекратит все платежи кроме света и зарплат бюджетникам

Экология в России и мире

Техник-паспортист СЛД «Сольвычегодск» Марина Созинова отмечена Благодарственным письмом от Совета женщин Сольвычегодского региона.

Крайние точки России: описание и расположение на карте с координатами

Like FM теперь в столице Кузбасса

Андрей Губин завершил карьеру из-за проблем со здоровьем

Спорт в России и мире

Динара Сафина назвала турниры Большого шлема, которые Даниил Медведев может выиграть в следующем сезоне

Андреа Петкович заявила, что Синнера не включили в номинанты премии ATP из-за допинг-дела

Джокович объяснил, почему выбрал Энди Маррея своим тренером

Бублик проиграл на турнире в Санкт-Петербурге

Moscow.media

В Орле пешеход попал под колеса автобуса, перебегая дорогу в неположенном месте

Филиал № 4 ОСФР по Москве и Московской области информирует: Отделение СФР по Москве и Московской области оплатило свыше 243 тысяч дополнительных выходных дней по уходу за детьми с инвалидностью

Bloody - участник и технический партнер Red Expo-2024

Осеннее настроение....











Топ новостей на этот час

Rss.plus






Shot: полиция провела рейды в крупнейших клубах Москвы

Жители Республики Татарстан потратили на ювелирные изделия более 6,2 млрд рублей за 9 месяцев 2024 года

Зима придет в Москву после 5 декабря

Столица выделила 16 участков с начала года для реализации программы реновации в САО