Автор Admin Крупные компании понимают недостатки памяти HBM, поэтому активно занимаются собственными решениями с близкими характеристиками, но без некоторых недостатков. Сегодня NVIDIA уведомила о разработке собственной памяти NVHBM, которая была создана совместно с умными людьми из лаборатории Annapurna, принадлежащей Amazon.
Суть памяти состоит в том, чтобы перенести контроллер памяти из XPU в базовый кристалл стека HBM, увеличивая полезную площадь для компонентов, занимающихся вычислениями. Это происходит благодаря 67% уменьшению площади контроллера в XPU, так как большая его часть переезжает в основу HBM. Помимо 25% освобождения площади для других компонентов в основном кристалле, NVHBM даёт 30% роста пропускной способности памяти и 15% снижения энергопотребления по сравнению с HBM4E.
Сейчас NVIDIA занимается разработкой стандартной реализации NVHBM, которая будет доступна у нескольких поставщиков памяти, чтобы партнёры могли снизить затраты на интеграцию и сертификацию у разных поставщиков. В то же время участники экосистемы NVLink Fusion смогут быстрее выводить на рынок специализированные решения для ИИ. Одним из первых ключевых партнёров, понятное дело, станет Annapurna, которая воспользуется новой памятью для создания Trainium4.