0 |
Корейська технологічна компанія Panmnesia представила чип-прискорювач із підтримкою CXL 3.0, який забезпечує спільне використання пам'яті для прискорення роботи AI-додатків.
Нагадаємо, стандарт CXL (Computer eXpress Link) 3.0 дає змогу спільно використовувати пул зовнішньої пам'яті, доступ до якого здійснюється через комутатори CXL, між хост-комп'ютерами з когерентними кешами в хост-комп'ютерах і кінцевими точками пам'яті CXL або експандерами. Більш ранній стандарт CXL 2.0 дозволяв хостам отримувати доступ до своєї частини пулу зовнішньої пам'яті через комутатор CXL, але не ділитися нею. Початкові стандарти CXL 1.0/1.1 підтримували прямий доступ хоста до зовнішньої пам'яті без використання комутатора.
Засновник і генеральний директор Panmnesia Менсу Юнг (Myoungsoo Jung) сказав: «Ми віримо, що наша технологія CXL стане наріжним каменем для системи прискорення AI наступного покоління. Ми зберігаємо прихильність нашому прагненню зробити революцію не тільки в системах прискорення AI, а й в інших середовищах загального призначення, як-от центри обробки даних, хмарні обчислення та високопродуктивні обчислення».
Компанія протиставляє свою здатність надавати до теоретичних 4 ПБ загальної пам'яті кластерним серверам, які звертаються до зовнішніх SSD. Вона стверджує, що окремі сервери зазвичай працюють паралельно над AI та іншими HPC-додатками та потребують доступу до більшої кількості даних, ніж може бути в їхній пам'яті. Це означає, що вони повинні використовувати твердотільні накопичувачі для зберігання надлишкових даних і доступу до них за протоколами SAS, NVMe або RDMA через мережу.
Чіп прискорювача є частиною універсальної платформи Panmnesia All-in-One Framework, що допомагає розробникам створювати системне програмне забезпечення, додатки користувальницького рівня і призначене для обладнання, що відповідає концепції CXL 3.0. Вона містить чип-прискорювач із вбудованим контролером CXL 3.0, комутатор CXL і кінцеві точки. Вони повністю сумісні з усіма протоколами CXL, такими як CXL.io, CXL.cache і CXL.mem.
Комутатор оснащений функцією програмного менеджера матриці для управління внутрішніми правилами маршрутизації всередині комутатора і може підключатися до інших комутаторів CXL і зовнішніх пристроїв,
Система виправдовує свою назву All-In-One, оскільки має програмний стек, що включає ОС на базі Linux з драйверами пристроїв CXL і систему віртуальної пам'яті з підтримкою CXL. Це означає, що додатки можуть використовувати спільну зовнішню пам'ять CXL без зміни коду.
Спільне використання пам'яті Panmnesia використовує зворотне анулювання для того, щоб кінцеві точки, модулі розширення пам'яті, могли керувати когерентністю кешу між хостами. Між хостом і його чіпом-прискорювачем відбувається передача даних із регістра в регістр.
Panmnesia стверджує, що деякі додатки HPC для моделювання плазми прискорюються в 1,8 раза внаслідок використання загальної пам'яті замість звернення до SSD для отримання даних. Компанія також стверджує, що AI-додатки можуть досягти 101-кратного прискорення завдяки чіпу прискорювача, оскільки він адаптований для пошуку штучного інтелекту з частим розпаралеленим векторним опрацюванням.
Повідомляється, Panmnesia залучила $12,5 млн у рамках посівного раунду, унаслідок чого компанія була оцінена у 81,4 млн дол. Раунд очолила компанія Daekyo Investment, у ньому взяли участь SL Investment, Smilegate Investment, GNTech Venture Capital, Time Works Investment, Yuanta Investment і Quantum Ventures Korea.
Комп’ютерний розум: генеративний штучний інтелект у рішеннях AWS
0 |