Учёные из Университета штата Орегон разработали новый энергоэффективный чип, призванный решить проблему огромного потребления электроэнергии крупными языковыми моделями искусственного интеллекта, такими как Gemini и GPT-4. Разработка, представленная на недавней конференции IEEE Custom Integrated Circuits Conference в Бостоне, позволяет сократить энергопотребление вдвое по сравнению с традиционными решениями.
Студент Рамин Джавади и доцент кафедры электротехники Теджасви Ананде представили чип, основанный на принципах искусственного интеллекта, которые оптимизируют энергопотребление при обработке сигналов. Проблема, по словам Ананде, руководителя лаборатории смешанных сигналов и систем в OSU, заключается в том, что энергозатраты на передачу одного бита не снижаются с той же скоростью, с которой растёт потребность в объёме передаваемых данных. Это и приводит к колоссальному энергопотреблению современных дата-центров.

Большие языковые модели требуют …
Свежие комментарии