ИИ-эксперт Душкин усомнился в быстром ответе нейросети с ноутбука с чипом Nvidia
Компания Nvidia объявила о запуске нового чипа RTX Spark, способного запускать нейросети прямо в ноутбуке пользователей. Первые персональные компьютеры с новой системой поступят в продажу осенью этого года. Генеральный директор компании-разработчика искусственного интеллекта (ИИ) «А-Я эксперт» Роман Душкин в комментарии 360.ru заявил, что если чип окажется эффективным, то это станет настоящим прорывом в сфере современных технологий. Но пока есть сомнения.
Он напомнил, что большие языковые модели используют облачные сервисы и дата-центры, то есть не нагружают ноутбуки и компьютеры пользователей, проводя основные операции удаленно и выводя результаты на экраны.
«Когда мы что-то пишем и быстро получаем ответ, то это происходит за счет работы вычислительных систем. Если Nvidia сделала аналогичный компактный чип, который потом можно впихнуть в ноутбук, — это прорыв. Но у меня есть сомнения, что это возможно», — заявил Душкин.
Он подчеркнул, что мощности ноутбука для быстрого ответа от нейросети не хватит, кроме того, для качественной работы искусственного интеллекта потребуется охлаждать компьютер от перегрева из-за нагрузки.
«Я сомневаюсь, что скорость инференса (ответа нейросети на задачу пользователя. — Прим. ред.) станет такой же, как у Deepseek или ChatGPT, когда мы что-то пишем и оно нам сразу отвечает», — пояснил Душкин.
По его словам, студенты уже пытались установить локальную языковую модель на несколько серверов. Результат оказался разочаровывающим. На любой вопрос нейросеть выдавала несколько букв раз в три секунды.
«Поэтому сложно ожидать, что на ноутбуке она будет летать», — добавил Душкин.
При этом он отметил, что своего пользователя ноутбуки с чипом Nvidia обязательно найдут, особенно в среде, которая считает своим приоритетом конфиденциальность, потому что полученные нейросетью данные дальше ноутбука не уйдут.
Подробнее о том, как новые чипы Nvidia способны изменить рынок искусственного интеллекта и почему ему грозит раскол — в материале 360.ru.