| 0 |
|
За повідомленням AMD, компанія випустила нову версію програмного забезпечення з відкритим вихідним кодом ROCm 6.3.
AMD ROCm 6.3 пропонує додаткові передові інструменти для спрощення процесу розробки, забезпечуючи ще ліпшу продуктивність і масштабованість для робочих навантажень AI та HPC.
Основні особливості ROCm 6.3 включають:
· SGLang, спеціально розроблений для оптимізації інференції найсучасніших генеративних моделей, таких як LLM і VLM, на графічних процесорах AMD Instinct. Досягається до шести разів вища пропускна здатність при інференції на LLM.
· Оптимізація трансформерів нового рівня. FlashAttention-2, оптимізований для ROCm 6.3, прискорює навчання моделей трансформерів та інференції у три рази, скорочуючи час виведення на ринок корпоративних систем AI.
· Компілятор AMD Fortran спрощує прискорення графічного процесора для застарілих HPC-додатків, пропонуючи пряме вивантаження, зворотну сумісність і легку інтеграцію без значних змін коду.
· Підтримка багатовузлового ШПФ забезпечує високопродуктивні обчислення ШПФ на великих наборах даних, підвищуючи ефективність і швидкість ухвалення рішень у таких галузях, як нафтогазова промисловість та наукові дослідження.
· Розширені бібліотеки комп'ютерного зору. Розширені бібліотеки зору, включно з AV1 і rocJPEG, дозволяють розробникам створювати передові рішення AI для різноманітних робочих навантажень, таких як відеоаналітика та доповнення наборів даних. Це корисний інструмент для цілого спектра галузей, від мас-медіа та розваг до автономних систем.
Зазначено, завдяки відкритому вихідному коду та постійному розвитку для задоволення потреб розробників, AMD продовжує надавати компаніям можливість швидше впроваджувати інновації, розумніше масштабуватися та залишатися попереду в їхніх конкурентних галузях.
Комп’ютерний розум: генеративний штучний інтелект у рішеннях AWS
| 0 |
|
