Добавить новость

Липецкие автоинспекторы задержали москвичку, накопившую штрафов на 1,7 млн рублей

Суд наложил арест на имущество замгубернатора Тюменской области

МВД: в Раменском водитель Ford насмерть сбил мужчину на электровелосипеде

Финн на лыжах четыре раза пересек границу с Россией



Новости сегодня

Новости от TheMoneytizer

В Яндексе придумали новый способ сжатия нейросетей

Учёные Яндекса разработали и опубликовали в свободном доступе новые методы сжатия больших языковых моделей. По мнению специалистов Yandex Research, они позволят бизнесу сократить расходы на вычислительные ресурсы до восьми раз. Разработка будет полезна корпорациям, стартапам и исследователям, которые запускают нейросети на своём оборудовании.

Чтобы большая языковая модель отвечала качественно и быстро, требуется множество дорогостоящих мощных графических процессоров. Решение Яндекса позволяет уменьшить модель в несколько раз, сократить количество необходимых процессоров и запустить её на устройствах с меньшей вычислительной мощностью. А значит внедрение нейросетей и обслуживание оборудования станет дешевле для бизнеса. 

Решение Яндекса включает в себя два инструмента. Первый позволяет получить уменьшенную до восьми раз нейросеть, которая быстрее работает и может быть запущена, например, на одном графическом процессоре вместо четырёх. Второй инструмент исправляет ошибки, которые возникают в процессе сжатия большой языковой модели.

Качество ответов оригинальной и сжатой версии нейросети сравнивали на англоязычных бенчмарках. Новый подход показал лучший результат среди всех существующих методов сжатия, отмечают в Яндексе. Метод, созданный в Yandex Research, сохраняет в среднем 95% качества ответов нейросети, а другие популярные инструменты сохраняют для тех же моделей лишь 59% — 90% качества. Код нового метода опубликован на GitHub, также можно скачать уже сжатые с его помощью популярные модели с открытым исходным кодом и обучающие материалы.

Читайте на 123ru.net


Новости 24/7 DirectAdvert - доход для вашего сайта



Частные объявления в Вашем городе, в Вашем регионе и в России



Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Smi24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.




Новости от наших партнёров в Вашем городе

Ria.city

Подмосковное министерство напомнило способы утилизации старых покрышек

Врач Тен назвала гигиену основной мерой профилактики вируса Коксаки

Липецкие автоинспекторы задержали москвичку, накопившую штрафов на 1,7 млн рублей

Госинспекция по недвижимости остановила возведение самостроя на севере Москвы

Музыкальные новости

«Торпедо» благодаря дублю Свечникова одержало волевую победу над «Динамо», прервав серию поражений

Путин заявил, что РФ проводит конструктивный внешнеполитический курс

Миляев и Лукашенко обсудили в Минске взаимодействие тульских и белорусских предприятий

Сотрудничество Правительств России и Алжира в области использования космоса в мирных целях

Новости России

Путин призвал СНГ вовремя корректировать стратегические документы по обороне

Закупки Газпрома. 7 ноября 2024 г. Капремонт оборудования и др. услуги

Скоч Андрей Владимирович — биография политического деятеля и мецената

Инвестор построит и передаст городу детский сад и школу в Коммунарке

Экология в России и мире

Уральская ТПП реализует важные межнациональные проекты и укрепляет народное единство

В ДК Железнодорожников состоится премьера мюзикла "Али-Баба и сорок разбойников"

В Коми главврачу вынесено представление из-за неработающего лифта – медперсонал спускает и поднимает пациентов на носилках

Ритм мегаполиса в коллекции Marfa Fedorova на Московской неделе моды

Спорт в России и мире

Неймар назвал белорусскую теннисистку Арину Соболенко королевой

Медведев обошел Джоковича в рейтинге АТР

Уверенная победа зафиксирована на Итоговом турнире WTA с участием Рыбакиной

В России обесценили матч Елены Рыбакиной с первой ракеткой мира

Moscow.media

Спасателям вынесли приговор за смерть ребенка в челябинском термальном комплексе

Без помех и потери сигнала: первые беспроводные игровые клавиатуры

В Санкт-Петербурге завершился Международный фестиваль робототехники «РобоФинист 2024»

Уважаемые коллеги! Дорогие друзья! Братство спасателей поздравляет вас с важным государственным праздником – Днем народного единства!











Топ новостей на этот час

Rss.plus






МВД: в Раменском водитель Ford насмерть сбил мужчину на электровелосипеде

Финн на лыжах четыре раза пересек границу с Россией

Автоэксперт Золотов: Проектируемый проезд 4014 сократит время в пути

Акции Amazon обновили рекорд