| 0 |
|
Останній звіт TrendForce про корпоративні твердотільні накопичувачі показує, що сплеск попиту на AI призвів до того, що за останні два квартали замовники AI-серверів значно збільшили свої замовлення на корпоративні SSD. Щоб задовольнити зростаючий попит на твердотільні накопичувачі для додатків AI, постачальники прискорюють модернізацію технологічних процесів і планують випуск продуктів, які повинні надійти в масове виробництво в 2025 році.
TrendForce відзначає, що збільшення замовлень на корпоративні твердотільні накопичувачі від клієнтів серверів AI призвело до того, що контрактні ціни на цю категорію зросли більш ніж на 80% з четвертого кварталу 2023 р. по треті й квартал 2024 р. Твердотільні накопичувачі відіграють вирішальну роль у розробці AI. При навчанні AI-моделей в першу чергу зберігають параметри моделі, в тому числі вагові коефіцієнти та відхилення, що змінюються.
Іншим ключовим застосуванням SSD є створення контрольних точок для періодичного збереження прогресу навчання AI-моделі, що дає змогу відновитися з певних точок у разі переривання. Через високу залежність від швидкої передачі даних клієнти зазвичай вибирають твердотільні накопичувачі TLC ємністю 4 ТБ/8 ТБ, щоб задовольнити високі вимоги процесу навчання.
TrendForce зазначає, що твердотільні накопичувачі, які використовуються в серверах штучного інтелекту, допомагають коригувати та оптимізувати моделі AI під час процесу виведення. Зокрема, твердотільні накопичувачі можуть оновлювати дані в режимі реального часу для точного налаштування результатів моделі виведення. АІ-висновки в першу чергу надають послуги генерації, доповненої пошуком (RAG), і LLM. SSD зберігають довідкові документи і бази знань, які RAG і LLM використовують для генерування більш інформативних відповідей. Крім того, оскільки все більше згенерованої інформації відображається у вигляді відео або зображень, необхідна ємність сховища також зростає, що робить твердотільні накопичувачі великої ємності, такі як TLC/QLC ємністю 16 ТБ або більше, кращим вибором для додатків штучного інтелекту.
Темпи зростання попиту на SSD для AI перевищують 60%, оскільки постачальники прискорюють розробку продуктів великої ємності.
У 2024 році, починаючи з другого кварталу, на ринку серверних твердотільних накопичувачів для АІ спостерігається значне зростання попиту на продукти ємністю понад 16 ТБ. З появою продуктів NVIDIA серій H100, H20 і H200 клієнти почали ще більше збільшувати замовлення на корпоративні SSD TLC ємністю 4 ТБ і 8 ТБ.
За оцінками TrendForce, цього року обсяг закупівель твердотільних накопичувачів для АІ перевищить 45 ЕБ. Очікується, що протягом наступних кількох років середньорічні темпи зростання попиту на твердотільні накопичувачі для AI-серверів становитимуть понад 60%, а попит на них потенційно зросте з 5% від загального споживання NAND Flash у 2024 році до 9% у 2025 році.
Сервери штучного інтелекту продовжуватимуть використовувати твердотільні накопичувачі великої ємності. Постачальники вже почали прискорювати модернізацію технологічних процесів і націлені на масове виробництво 2YY/3XX-шарових продуктів з І кв. 2025, а також на випуск корпоративних SSD-накопичувачів ємністю 120 ТБ у перспективі.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
