OpenAI выбрала процессоры AMD Epyc для серверов с чипом Jalapeno
OpenAI рассказала, что использует серверные процессоры AMD Epyc поколения Turin вместе со своими ИИ-чипами Jalapeno. В компании объяснили выбор тем, что Nvidia Vera отстаёт по уровню зрелости.
- OpenAI применяет процессоры AMD Epyc поколения Turin как хост-CPU в своих серверах с ИИ-чипами Jalapeno.
- Каждый такой процессор оснащён дополнительно 1,5 ТБ оперативной памяти.
- Топ-менеджер OpenAI заявил, что Nvidia Vera как самостоятельный продукт отстаёт по уровню зрелости.
OpenAI раскрыла подробности о серверной инфраструктуре для своих ИИ-чипов Jalapeno. Компания использует процессоры AMD Epyc поколения Turin в качестве хост-процессоров, каждый из которых оснащён дополнительно 1,5 ТБ оперативной памяти.
Летом OpenAI представила собственный ИИ-процессор Jalapeno, а теперь рассказала, что применяет его в серверах вместе с CPU AMD. Выбор пал на Epyc, поскольку это, по словам представителя компании, самый прагматичный вариант.
Наш подход к проектированию заключался в снижении рисков и обеспечении быстрой разработки. Nvidia Vera, как самостоятельный продукт, несколько отстаёт по уровню зрелости. Turing — мощный инструмент. Он выполнил необходимые нам задачи, и отчасти наши партнёры уже имели опыт работы с ним. В программе Jalapeno мы старались принимать очень прагматичные решения. Мы хотели быть амбициозными в отношении производительности и стоимости, но не хотели брать на себя ненужные риски. Это показалось нам хорошим проектным решением, которое соответствовало бы параметрам, которые мы используем при принятии подобных проектных решений
Процессоры Nvidia Vera пока только появляются на рынке у партнёров Nvidia. Это фактически первая подобная оценка от какой-либо крупной компании.
Для профиТехнические детали: архитектура, цифры, ссылки
OpenAI использует AMD Epyc Turin в качестве хост-процессоров для своих ИИ-чипов Jalapeno. Каждый CPU дополнен 1,5 ТБ оперативной памяти. Компания мотивировала выбор зрелостью платформы и опытом партнёров, тогда как Nvidia Vera, по её оценке, пока отстаёт по этому параметру.
Вопросы и ответы
- Какие процессоры использует OpenAI в серверах с Jalapeno?
- AMD Epyc поколения Turin в качестве хост-процессоров.
- Почему OpenAI выбрала AMD Epyc, а не Nvidia Vera?
- В компании заявили, что Nvidia Vera отстаёт по уровню зрелости, а Epyc — самый прагматичный выбор.
