Создан алгоритм, который сократил энергопотребление ИИ на 95%

Исследователи из BitEnergy AI, Inc. разработали новаторский алгоритм под названием Linear-Complexity Multiplication (L-Mul), который снижает энергопотребление ИИ-моделей до 95%.

Заменяя энергоемкие операции с плавающей запятой на более простые целочисленные сложения, L-Mul обеспечивает значительную экономию энергии при сохранении точности моделей. Алгоритм легко интегрируется, включая трансформеры, используемые в задачах обработки естественного языка и компьютерного зрения, с минимальной потерей производительности в 0,07%.

L-Mul не только экономит энергию, но и улучшает точность в некоторых случаях, превосходя современные 8-битные стандарты. Однако для полного раскрытия потенциала этой технологии требуется специализированное оборудование, которое сейчас находится в разработке.

Ученые с оптимизмом смотрят на реализацию L-Mul на аппаратном уровне, обещая значительный скачок в эффективности вычислений ИИ.