| 0 |
|
Як повідомляє Business Korea, спеціалізовані чипи завдань зі штучного інтелекту, розроблені корейським стартапом Rebellions, перевершили в тестах на продуктивність рішення світових напівпровідникових гігантів, таких як Nvidia і Qualcomm.
Результати тестування напівпровідникових AI-систем MLPerf, опубліковані некомерційною організацією ML Commons, показали, що система Atom, розроблений Rebellions, показала затримку в 4297 мс у тесті на мовній моделі. Це в 1,4 рази швидше, ніж у Nvidia (T4 із затримкою 6093 мс) і в 1,8 рази швидше, ніж у Qualcomm (Cloud AI100 із затримкою 7547 мс). Цей показник є однопотоковим тестом, який вимірює час, необхідний одному чіпу для обробки одного завдання.
Atom також показав в 1,4 рази вищу продуктивність, ніж його конкуренти в обробці завдань зі штучного зору. Тут Atom в однопоточній обробці продемонстрував затримку 0,239 мс, Qualcomm Cloud AI100 - 0,336 мс, а Nvidia A2 - 0,713 мс.
Слід додати, що зараз Nvidia домінує на ринку чипів для навчання моделей штучного інтелекту по обсягах поставок.
Але, як виявляється Qualcomm змогла використати свій досвід розробки мікросхем для смартфонів та створила Cloud AI 100 саме спрямовану на економне енергоспоживання.
Згідно з даними тестування MLCommons, чип AI 100 від Qualcomm випередив флагманське рішення H100 від Nvidia в сегменті класифікації зображень - 227,4 проти 108,4 запитів на ват.
Nvidia, однак, посіла перше місце як за абсолютною продуктивністю, так і за енергоефективністю в тесті обробки природної мови, що найширше використовується в таких системах, як чат-боти. Nvidia досягла 10,8 запитів на ват, тоді як Qualcomm посіла друге місце з показником 8,9 запитів на ват.
Комп’ютерний розум: генеративний штучний інтелект у рішеннях AWS
| 0 |
|
