Supermicro представила новий універсальний системний дизайн для AI на границі

Компанія Supermicro оголосила про випуск нової універсальної інфраструктурної платформи високої щільності, оптимізованої для проведення аналітичних досліджень на границі мережі. Оскільки підприємства прагнуть впровадити складні великі мовні моделі (LLM) у свою повсякденну діяльність, виникає потреба в новому обладнанні, здатному аналізувати великі обсяги даних на границі мережі з мінімальною затримкою. Система Supermicro поєднує в собі універсальність, продуктивність і теплову ефективність, забезпечуючи до 10 графічних процесорів подвійної ширини в одній системі, здатній працювати в традиційних середовищах з повітряним охолодженням.

«Завдяки оптимізованому тепловому режиму Supermicro може забезпечити всю цю продуктивність у системі високої щільності 3U 20 PCIe з 256 ядрами, яку можна розгорнути в периферійних центрах обробки даних», - говорить Чарльз Лян (Charles Liang), президент і генеральний директор Supermicro. «Оскільки ринок штучного інтелекту зростає експоненціально, замовникам потрібне потужне й універсальне рішення для виведення даних і запуску застосунків на базі LLM у локальних центрах оброблення даних, безпосередньо поруч із місцем їхнього створення. Наша нова система 3U Edge AI дозволяє їм запускати інноваційні рішення з мінімальними затримками».

Нова система SYS-322GB-NR включає два процесори Intel Xeon 6900 з ядрами P, модулі MRDIMM 8800 MT/s і до 20 слотів розширення PCIe 5.0. Ця система Supermicro підтримує різні графічні процесори одинарної або подвійної ширини, а також дає змогу використовувати деякі слоти розширення для високопродуктивних пристроїв введення-виведення або інших додаткових плат. Крім того, сервер оснащений до 6 ТБ пам'яті RDIMM і до 14 дисків E1.S або 6 дисків U.2 NVMe.

Одним із прикладів використання цієї системи є виробнича галузь, де нова система Supermicro може бути розгорнута на місці автоматизованого виробництва для оброблення даних з камер і датчиків без необхідності передавання даних у віддалене місце. Така можливість дає змогу знизити вимоги до мереж і збільшити час відгуку. Ще одне середовище, в якому сервер SYS-322GB-NR буде особливо корисний, - це великі диспетчерські, де карти прискорювачів AI можуть бути частково замінені мультидисплейними картами для підтримки до 64 незалежних дисплеїв.

Сервер SYS-322GB-NR був представлений на стенді Supermicro під час виставки MWC у Лас-Вегасі, 8-10 жовтня. Крім того, Supermicro представила системи на базі процесорів NVIDIA, AMD і Intel Xeon 6, включно із системами для граничних і телекомунікаційних мереж сімейства X14, такі як:

SYS-222HE-FTN - Hyper-E забезпечує продуктивність центру оброблення даних на границі телекомунікаційної мережі завдяки двом процесорам Intel Xeon 6 у формфакторі 2U, короткої глибини з фронтальним доступом до входу/виходу.

SYS-212B-FN2T - система короткої глибини 2U для AI в телекомунікаційних і приграничних системах, оснащена одним процесором Intel Xeon серії 6700 з ядрами E і підтримкою GPU

SYS-E403-14B-FRN2T - настінний крайовий пристрій розміром з коробковий ПК, здатний доставити процесор Intel Xeon серії 6700 з ядрами E і підтримкою GPU у віддалені середовища.

AS -1115S-FDWTRT - система 1U NEBS-сумісна, що забезпечує продуктивність Telco для ORAN, Core і керованих послуг. У цій системі використовується процесор AMD EPYC серії 8004 і підтримка прискорювача GPU одинарної ширини для важких робочих навантажень.

Крім демонстрації апаратних систем Supermicro, компанія у партнерстві з NVIDIA спільно продемонструвала рішення inferencing та AI для локальних і граничних застосунків, включно з корпоративним AI, роздрібною торгівлею, Telco Edge і фінансовими послугами. Продемонстровано ключові рішення генеративного AI, включно з NVIDIA NIM, NVIDIA NeMo, NVIDIA Metropolis, віддаленим управлінням, безпекою та мережевою взаємодією. У сфері телекомунікацій Supermicro і NVIDIA продемонстрували живе рішення AI RAN з використанням рішень NVIDIA і Supermicro, що демонструє продуктивність, управління і приклади використання AI.

Також на MWC Las Vegas представлено нове спільне рішення від Supermicro та Intel, яке поєднує в собі захищену систему IP65 Outdoor Edge з вбудованим мережевим прискорювачем AI та Intel Data Center GPU Flex 170. Це рішення дає змогу швидко і з мінімальними витратами розгорнути кілька приватних мереж 5G, а також застосунки Edge AI на одному пристрої. Мережі можуть використовуватися й експлуатуватися різними користувачами, пропонуючи масштабоване рішення для щільних середовищ, як-от промислові об'єкти та кампуси, місця проведення заходів і «розумні» міста.