Свежеиспеченный MI350 от AMD: интервью с главным архитектором ( chipsandcheese.com )
Это тоже поставляется только партиями по 8 штук? Мне очень понравился MI300, и я мог позволить себе один из них для своего исследования, но они поставляются только партиями по 8 штук в серверной стойке, поэтому я решил купить RTX Pro 6000.
РП6:
“Алан: Конечно, да, поэтому одна из вещей, которую мы чувствовали в отношении MI350 в этот период времени, это то, что он выходит на рынок и текущее состояние ИИ… мы чувствовали, что FP6 – это формат, который может использоваться не только для вывода, но и потенциально для обучения. И поэтому мы хотели убедиться, что возможности FP6 являются ведущими в своем классе по сравнению с… тем, что, возможно, реализовали бы другие. И поэтому, как вы знаете, требуется много времени для проектирования оборудования, поэтому мы думали об этом много лет назад и хотели убедиться, что MI350 будет лидером по производительности FP6. Поэтому мы приняли решение реализовать путь данных FP6 с той же пропускной способностью, что и путь данных FP4. Конечно, нам пришлось взять немного больше оборудования, чтобы сделать это. FP6 имеет несколько больше бит, очевидно, поэтому он называется FP6. Но мы смогли сделать это в пределах ограничений, которые у нас были в матричном движке, и сделать и это очень эффективно с точки зрения энергопотребления и площади.
Будет ли 1,58 бит в MI400? Или это еще не устоявшаяся широко используемая технология?
См. https://arxiv.org/abs/2402.17764
Целых 40% вопросов Джорджа были признаны отличными. (Не считая всякой ерунды вроде «Кем вы работаете?»)
Сможет ли AMD догнать Nvidia?
Да, если они смогут доставить товар вовремя.
Source: news.ycombinator.com