В основе метода лежит принципиально новая схема квантования, благодаря которой заметно повышается скорость работы нейросетей.
Ученые российской AI-компании Smart Engines придумали, как добиться того, чтобы нейросети показывали более эффективные результаты в работе. Результаты исследования были опубликованы в журнале Mathematics (Q1). Эксперты компании рассказали об этом Hi-Tech Mail.ru.
Разработка уже используется при решении прикладных задач компьютерного зрения — для поиска объектов и распознавания текстов, отмечают специалисты. Она также может стать неотъемлемой частью беспилотных автономных систем нового поколения, расширив класс задач, которые способны выполнять бортовые компьютеры.
Речь идет о прорыве отечественных ученых в области оптимизации исполнения нейронных сетей. В настоящее время нейросети в основном выполняются на специализированных видеокартах, но не каждый компьютер оснащен ими. При этом любое пользовательское устройство имеет центральный процессор, мировым стандартом для которых является использование 8-битных нейронных сетей. Однако глубокие нейронные сети усложняются, содержат сотни миллионов и более коэффициентов, что требуют большей вычислительной мощности. Это ограничивает возможность использования центральных процессоров в системах искусственного интеллекта.
Исследователи Smart Engines решили эту проблему, предложив улучшение 8-битной модели — 4,6-битную сеть. Она работает быстрее 8-битной модели на 40%, но практически не уступает ей по качеству за счет более эффективного использования особенностей центральных процессоров мобильных устройств.
