Revolutionizing AI Efficiency: The L-Mul Algorithm

Инженеры BitEnergy AI на сайте препринтов arXiv представили новый алгоритм алгоритм, который способен снизить энергопотребление нейросетей.

Новая техника заключается в использовании целочисленного сложения вместо умножения с плавающей точкой (FPM). Прикладные задачи используют FPM для сохранения точности вычислений при обработке чисел с большим динамическим диапазоном, при этом FPM является самой энергоёмкой операцией в нейросетях.

Инженеры BitEnergy AI называют свой новый метод Linear-Complexity Multiplication - он работает путём аппроксимации FPM с использованием целочисленного сложения. Они утверждают, что на данный момент новый подход может снизить потребление электроэнергии до 95%.

📄 https://arxiv.org/html/2410.00907
💾 https://arxiv.org/pdf/2410.00907

@vlsihub

VLSI HUB

Revolutionizing AI Efficiency: The L-Mul Algorithm

Инженеры BitEnergy AI на сайте препринтов arXiv представили новый алгоритм алгоритм, который способен снизить энергопотребление нейросетей.

Новая техника заключается в использовании целочисленного сложения вместо умножения с плавающей точкой (FPM). Прикладные задачи используют FPM для сохранения точности вычислений при обработке чисел с большим динамическим диапазоном, при этом FPM является самой энергоёмкой операцией в нейросетях.

Инженеры BitEnergy AI называют свой новый метод Linear-Complexity Multiplication - он работает путём аппроксимации FPM с использованием целочисленного сложения. Они утверждают, что на данный момент новый подход может снизить потребление электроэнергии до 95%.

📄 https://arxiv.org/html/2410.00907
💾 https://arxiv.org/pdf/2410.00907

@vlsihub

🔥6✍2👍2🤯1🤓1

hottg.com/vlsihub/628

2.06K viewsDmitry Murzinov, Oct 14, 2024 at 07:01