Исследователи из BitEnergy AI, Inc. разработали новаторский алгоритм под названием Linear-Complexity Multiplication (L-Mul), который снижает энергопотребление ИИ-моделей до 95%.
Заменяя энергоемкие операции с плавающей запятой на более простые целочисленные сложения, L-Mul обеспечивает значительную экономию энергии при сохранении точности моделей. Алгоритм легко интегрируется, включая трансформеры, используемые в задачах обработки естественного языка и компьютерного зрения, с минимальной потерей производительности в 0,07%.
L-Mul не только экономит энергию, но и улучшает точность в некоторых случаях, превосходя современные 8-битные стандарты. Однако для полного раскрытия потенциала этой технологии требуется специализированное оборудование, которое сейчас находится в разработке.
Ученые с оптимизмом смотрят на реализацию L-Mul на аппаратном уровне, обещая значительный скачок в эффективности вычислений ИИ.
