Теперь AMD обвиняет Nvidia в некорректном сравнении ускорителей H100 и Instinct MI300X. Новые данные AMD показывают, что её продукт быстрее

Пару дней назад Nvidia опубликовала материал, где рассказала, что на своей недавней презентации AMD неправильно сравнивала ускоритель Instinct MI300X и с Nvidia H100. И если сравнить правильно, решение Nvidia будет быстрее. Теперь AMD отреагировала на выпад конкурента, заявив, что это конкурент сравнивает неправильно.

AMD отмечает, что Nvidia в своём сравнении пошла сразу на три хитрости: 

• Для ускорителя H100 использовалась библиотека TensorRT-LLM вместо vLLM в тестах AMD 
• Сравнение производительности в режиме FP16 на AMD Instinct MI300X с режимом FP8 на H100 
• Опубликованные данные AMD о производительности были инвертированы из относительных значений задержки в абсолютную пропускную способность 

В итоге теперь уже AMD перетестировала ускорители, якобы максимально правильно их сравнив. Компания сделала сразу два сравнения: с библиотекой vLLM для обоих ускорителей и с разными библиотеками.  

Как можно видеть, всё равно Instinct MI300X, согласно тестам AMD, оказывается ощутимо …