1. Panmnesia создал новый метод увеличения объема памяти графического процессора, используя твердотельные накопители на основе NAND. С помощью новой технологии удалось добавить терабайт памяти, основанной на стандарте Compute Express Link (CXL).
2. CXL позволяет центральному процессору и графическому процессору совместно использовать память без копирования данных.
3. Panmnesia утверждает, что их решение CXL GPU может быть в три раза эффективнее традиционных методов увеличения объема памяти видеокарты.
4. Для прототипа использован терабайт памяти, подключенный к CXL GPU через два кабеля MCIo.
5. Внедрение нового стандарта CXL может быть сложным из-за необходимости дополнительных слотов, совместимых с PCIE/CXL, и технических проблем с интеграцией аппаратной части.
6. Южнокорейский стартап Panmnesia разработал специализированное CXL решение для расширения встроенной памяти ускорителей на базе GPU, позволяя подключать внешние блоки DRAM или SSD. Современным приложениям ИИ и НРС требуется значительный объем быстрой памяти, что ограничивает возможности ускорителей.
7. У ускорителей отсутствует логическая структура CXL и компоненты, поддерживающие DRAM и/или SSD, что усложняет расширение памяти.
8. Panmnesia создала собственный root комплекс, совместимый со стандартом CXL 3.1, предоставляющий несколько root портов и поддерживающий внешнюю память через PCIe. Прототип решения на кастомизированном GPU продемонстрировал задержки менее 100 нс при передаче данных в обоих направлениях. Решение Panmnesia предоставляет более гранулярный доступ к памяти по сравнению с UVM, и быстродействие CXL системы Panmnesia оказалось в 3,22 раза выше в пересчете на IPC по сравнению с UVM.
9. Разработано новаторское решение для расширения памяти GPU на базе стандарта CXL 3.1, позволяющее подключать внешние блоки DRAM и SSD к GPU через интерфейс PCIe, увеличивая объем доступной видеопамяти (VRAM) и улучшая производительность в задачах, требующих больших объемов быстрой памяти.
10. Существующие GPU имеют ограниченные возможности по расширению памяти из-за отсутствия логической структуры CXL и компонентов, поддерживающих внешнюю память. Решение Panmnesia обходит ограничения с помощью создания собственного root комплекса, совместимого с CXL 3.1, и предоставляющего несколько root портов для поддержки внешней памяти через PCIe. Специальный декодер компании позволяет GPU использовать внешнюю память как напрямую доступную, обеспечивая задержки менее 100нс при передаче данных в обоих направлениях. Технология может быть интегрирована в существующие системы без значительных изменений.
11. Пока не ясно, решат ли крупные производители GPU, такие как AMD и NVIDIA, поддержать эту технологию, поскольку ее использование может потенциально сократить продажи их графических чипов.
Южнокорейский стартап Panmnesia представил новаторское решение для увеличения объема памяти графического процессора, используя твердотельные накопители на основе NAND. Этот подход позволил добавить целый терабайт памяти, основанной на стандарте Compute Express Link (CXL). Суть CXL заключается в том, что центральный процессор и графический процессор могут совместно использовать память без необходимости копирования данных. Panmnesia утверждает, что их решение CXL GPU может быть в три раза эффективнее традиционных методов увеличения объема памяти видеокарты.Thank you for reading this post, don't forget to subscribe!
Для прототипа использован терабайт памяти, подключенный к CXL GPU через два кабеля MCIo. Однако, внедрение нового стандарта CXL может столкнуться с определенными сложностями из-за требования дополнительных слотов, совместимых с PCIE/CXL, а также технических проблем с интеграцией аппаратной части. Специализированное CXL решение Panmnesia позволяет расширять встроенную память ускорителей на базе GPU, подключая внешние блоки DRAM или SSD.
Современным приложениям искусственного интеллекта и нейронных сетей требуется значительный объем быстрой памяти, что ограничивает возможности ускорителей. Panmnesia разработала собственный root комплекс, совместимый со стандартом CXL 3.1, обеспечивающий более гранулярный доступ к памяти по сравнению с UVM. Прототип на кастомизированном GPU демонстрировал задержки менее 100 нс при передаче данных в обоих направлениях, что свидетельствует о высокой эффективности решения.
Решение Panmnesia открывает новые горизонты для расширения памяти GPU на базе стандарта CXL 3.1, позволяя подключать внешние блоки DRAM и SSD через интерфейс PCIe, увеличивая объем доступной видеопамяти (VRAM) и улучшая производительность в задачах, требующих больших объемов быстрой памяти. Несмотря на ограничения существующих GPU по расширению памяти из-за отсутствия логической структуры CXL, решение Panmnesia смогло обойти эти проблемы, предоставив возможность использовать внешнюю память как напрямую доступную, с минимальными задержками при передаче данных.
Пока неясно, поддержат ли крупные производители GPU, такие как AMD и NVIDIA, технологию CXL, поскольку ее использование может потенциально повлиять на продажи их графических чипов. Однако, с уникальными возможностями и значительным увеличением производительности, решение Panmnesia представляет собой важный шаг в развитии технологий увеличения памяти графических процессоров, открывая новые перспективы для будущих инноваций в этой области.