At the Advancing AI conference, AMD showed that even the most advanced graphics accelerators for AI cannot cope without a suitable processor. During the presentation, figures were given where configurations based on AMD EPYC 9005 processors showed up to 17% better performance in AI tasks compared to Intel solutions.
Сегодня всё чаще говорят об ускорителях Instinct MI300X — AMD активно продвигает их для обучения и запуска нейросетей. Но, как подчеркнул вице-президент AMD Форрест Норрод, настоящий результат даёт только грамотная связка CPU и GPU.
В качестве примера AMD привела сравнение двух серверов: один на Intel Xeon 8592+ (пятое поколение), второй на EPYC 9575F. У обоих процессоров были по 64 ядра и одинаковое энергопотребление. При тестировании с языковой моделью Llama 3.1 8B связка с EPYC показала:
- в среднем на 6% выше производительность в сценариях вывода;
- до 17% выигрыша при увеличении числа параметров модели.
Тесты проводились в связке с ускорителями Instinct MI300X, так что акцент был сделан именно на взаимодействии CPU и GPU.
AMD также сообщила, что спрос на EPYC в дата-центрах продолжает расти. Причины — высокая производительность, энергоэффективность и гибкость платформы. Для компаний, работающих с ИИ, это ясный сигнал: правильный выбор процессора определяет, насколько оправдана инвестиция в ИИ-ускорители.
***
Автор обложки: Wccftech. Источник обложки: Wccftech
