Ученые нашли способ радикально сократить энергопотребление ИИ

arXiv: новый алгоритм снижает энергозатраты работы нейросетей на 95%
Depositphotos

Инженеры американской технологической компании BitEnergy AI создали алгоритм, сокращающий расход энергии приложениями искусственного интеллекта (ИИ) на 95%. Исследование опубликовано на портале нерецензированных научных публикаций arXiv.

Широкое распространение ИИ-технологий привело к резкому росту потребностей в энергии. Например, популярная ИИ-модель ChatGPT в день потребляет около 564 МВт/ч, чего достаточно для питания 18 тыс. домов.

Команда BitEnergy AI утверждает, что в рамках новой разработки им удалось найти способ значительно сократить объем вычислений, необходимых для запуска приложений ИИ, не приводя при этом к потере производительности.

Предложенный метод под названием «умножение линейной сложности» (Linear-Complexity Multiplication) основан на использовании целочисленного сложения вместо более затратного умножения с плавающей запятой.

Исследователи отметили, что такой способ вычислений не совместим с существующим оборудованием, однако группа уже создала и протестировала устройства для своего решения.

Ранее российские ученые нашли способ вдвое снизить энергопотребление ИИ.