На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

iXBT.com

33 подписчика

Свежие комментарии

  • Иван Николаев
    Японцы одновременно выпустили три лимитированных серии. Вот кросстрек, плюс импреза, плюс леворг. Кросстрек, конечно,...Представлен новый...
  • Юрий Стенякин
    А если учесть что компания официально ушла с российского рынка то преимущества спорныПредставлена нова...
  • Mikhail Stepanov
    Ха-ха! В то время, как российская гиперзвуковой ракета летит со скоростью около 20 тыс. км. В час!США успешно испыт...

Теперь AMD обвиняет Nvidia в некорректном сравнении ускорителей H100 и Instinct MI300X. Новые данные AMD показывают, что её продукт быстрее

Пару дней назад Nvidia опубликовала материал, где рассказала, что на своей недавней презентации AMD неправильно сравнивала ускоритель Instinct MI300X и с Nvidia H100. И если сравнить правильно, решение Nvidia будет быстрее. Теперь AMD отреагировала на выпад конкурента, заявив, что это конкурент сравнивает неправильно.

 

AMD отмечает, что Nvidia в своём сравнении пошла сразу на три хитрости: 

  • Для ускорителя H100 использовалась библиотека TensorRT-LLM вместо vLLM в тестах AMD 
  • Сравнение производительности в режиме FP16 на AMD Instinct MI300X с режимом FP8 на H100 
  • Опубликованные данные AMD о производительности были инвертированы из относительных значений задержки в абсолютную пропускную способность 

В итоге теперь уже AMD перетестировала ускорители, якобы максимально правильно их сравнив. Компания сделала сразу два сравнения: с библиотекой vLLM для обоих ускорителей и с разными библиотеками.  

Как можно видеть, всё равно Instinct MI300X, согласно тестам AMD, оказывается ощутимо …

Ссылка на первоисточник
наверх