TurboQuant обещает стать прорывом в алгоритмах сжатия памяти при выполнении задач LLM, связанных с работой моделей генеративного ИИ. Google утверждает, что разработала метод сохранения высочайшей точности работы моделей при шестикратном снижении использования оперативной памяти.
Рынок уже реагирует на новинку. Только за последнюю неделю котировки акций компании Micron, производителя памяти, упали более чем на 15%. SK Hynix в последние дни теряет на бирже около 13%.
Ситуация дает надежду всему рынку аппаратного обеспечения на то, что чудовищный спрос на RAM со стороны дата-центров ИИ снизится. Это оздоровило бы ситуацию с безумными ценами на оперативную память и NAND Flash.