Сегодня всё чаще говорят об ускорителях Instinct MI300X — AMD активно продвигает их для обучения и запуска нейросетей. Но, как подчеркнул вице-президент AMD Форрест Норрод, настоящий результат даёт только грамотная связка CPU и GPU.
В качестве примера AMD привела сравнение двух серверов: один на Intel Xeon 8592+ (пятое поколение), второй на EPYC 9575F. У обоих процессоров были по 64 ядра и одинаковое энергопотребление. При тестировании с языковой моделью Llama 3.1 8B связка с EPYC показала:
- в среднем на 6% выше производительность в сценариях вывода;
- до 17% выигрыша при увеличении числа параметров модели.
Тесты проводились в связке с ускорителями Instinct MI300X, так что акцент был сделан именно на взаимодействии CPU и GPU.
AMD также сообщила, что спрос на EPYC в дата-центрах продолжает расти. Причины — высокая производительность, энергоэффективность и гибкость платформы. Для компаний, работающих с ИИ, это ясный сигнал: правильный выбор процессора определяет, насколько оправдана инвестиция в ИИ-ускорители.
***
Автор обложки: Wccftech. Источник обложки: Wccftech