| 0 |
|
Компанія Huawei Technologies представила програмне забезпечення з відкритим вихідним кодом, яке, за її твердженням, може значно покращити коефіцієнт використання AI-чипів. Це є черговою спробою китайських компаній досягти можливостей навчання AI світового класу навіть без доступу до новітніх процесорів Nvidia.
Програмне забезпечення Flex:ai, яке об'єднує та оркеструє процесори для підвищення продуктивності, є частиною зусиль Huawei, спрямованих на розвиток самодостатньої обчислювальної екосистеми шляхом подолання недоліків Китаю в окремих наборах мікросхем.
Побудоване на платформі з відкритим вихідним кодом Kubernetes, програмне забезпечення є системою оркестровки для графічних процесорів (GPU), нейронних процесорів (NPU) та інших прискорювачів від різних виробників чіпів.
За словами Huawei, інструмент може розділити одну карту на кілька віртуалізованих обчислювальних одиниць, дозволяючи кільком робочим навантаженням AI працювати паралельно.
Компанія стверджує, що інструмент може підвищити коефіцієнт використання процесора в середньому на 30%.
Розумний планувальник під назвою Hi Scheduler керує розподілом GPU та NPU у кластері. Система також може об'єднувати прості процесори з різних вузлів і перерозподіляти їхню потужність на завдання AI.
"Менші завдання рідко використовують можливості однієї карти повністю, тоді як більші не можуть бути виконані лише однією, а паралельні завдання ускладнюють управління обчисленнями", — сказав Чжоу Юефен (Zhou Yuefeng), віцепрезидент та керівник лінійки продуктів для зберігання даних Huawei.
Він додав, що Flex:ai було розроблено для покращення використання обчислювальних ресурсів і є частиною зусиль Huawei з прискорення "демократизації AI" шляхом розкриття потенціалу інфраструктури AI та відкритого вихідного коду.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
