З моменту дебюту процесорів EPYC 7001 першого покоління Naples AMD проповідувала не так багатоядерність, скільки новий підхід до архітектури процесорів і платформ х86 масового призначення: концентрацію обчислень, пам'яті та операцій введення-виведення на одному сокеті сервера.
Процесори AMD EPYC складаються з чіплетів, які дешевші за монолітні чіпи у виробництві, їх простіше інтегрувати в оточення. Ставка зіграла. Односокетна стратегія, нехай не скасувала дво- і чотирипроцесорні сервери, але забезпечила повноцінну (до того ж, економну) роздачу обчислювальних ресурсів у багатьох додатках гіперскейлерів, хмарних провайдерів, HPC та AI.
Мотиви
Ще до появи другого покоління процесорів AMD EPYC 7002 Rome ряди прихильників односокетних серверів поповнили провідні вендори і знакові споживачі (AWS, Microsoft Azure, Dropbox). Dell CTO пояснює на десяти пальцях, чому так, у статті Why single-socket servers could rule the future :
Після активної дискусії зі споживачами та появи Rome додалися ще чотири мотиви:
Вже більше року, як продається третє покоління процесорів AMD EPYC 7003 Milan. Односокетний тренд тільки міцніє, нещодавнє оновлення парку серверів Cloudflare тому приклад.
Куди дивиться Intel?
Компанія підтягує відставання - тепер у процесорах Intel Xeon SP третього покоління до 40 ядер (проти 64 у AMD), підтримка з процесора 64 ліній PCIe Gen 4 (проти 128 у AMD, а було 48 x PCIe Gen 3) та восьми каналів пам'яті DDR4- 3200 (як AMD, було 6 x DDR4-2933).
Наслідуючи приклад AMD, Intel випустила кілька процесорів для односокетних систем:
За основними показниками (ядра, тактова частота, число шинних ліній) вони поступаються процесорам AMD EPYC 7003P:
Додаткових виробничих витрат «односокетні» процесори не вимагають – їх одержують із старших побратимів відключенням міжпроцесорного інтерфейсу. Продають їх дешевше, але якби справа була лише в ціні CPU.
Ринок вирішив
Пропозиція односокетних серверів на процесорах Intel Xeon SP другого та третього покоління була і залишається мізерною. Їх не знайти у каталогах А-бренд. Вважай, на цьому фронті воює тільки Supermicro – та намагається покривати взагалі всі можливі серверні сегменти. Але її власна таблиця позиціонування не переконує у необхідності двопроцесорних серверів. Швидше, вигідно подає односокетні системи (і не сказати, що Intel):
Односокетні сервери на AMD EPYC пропонують усі лідери ринку (приклади: Dell PowerEdge R6515, HPE ProLiant DL325, Lenovo ThinkSystem SR635 Rack) та «народні» вендори (ASUS, Gigabyte, Supermicro, Tyan). Виходить, мало хто вірить у здатність Intel відбити натиск AMD у нижньому та середньому сегментах. Чому так?
Intel давно сприймається як консервативна компанія, її апологети – такі самі. Міфи, про які пише AMD («два сокети надійніші за один, завжди продуктивніші і взагалі кращі») харчуються відсутністю експертизи, небажанням читати і страхом змін. Вендор, знаючи своїх споживачів, продовжують звично штампувати двопроцесорні системи Intel Xeon. Хочете - ставте в них «односокетні» процесори, вони будуть працювати (переплата за другий сокет, що не використовується, і втрата частини слотів, які обслуговує другий CPU - не в рахунок).
Драйвером змін сьогодні є малий та середній бізнес, особливо в таких галузях, як граничні обчислення та системи штучного інтелекту. Типові односокетні сервери для збору та первинної обробки даних, навчання систем, інтеграції робочих процесів беруть ціною та достатньою продуктивністю.
У небі та на землі
Відповідь на запитання Is shift to single-socket servers starting? ствердна. AWS використовує однопроцесорні машини Graviton та Gravition2 у своєму великому парку серверів EC2. Google розгортає свої екземпляри Tau у Google Cloud на основі односокетного серверного вузла Milan EPYC 7003, щоб знизити витрати та підвищити продуктивність. При цьому Google заявляє, що односокетний 60-ядерний сервер EPYC може запропонувати на 56% більшу продуктивність і на 42% кращу віддачу від витрачених коштів, ніж AWS може зробити з односокетними вузлами Graviton2.
Гіперскейлери, оператори масштабних AI- та HPC-проектів розробляють та впроваджують власні процесори під свої ж додатки. Стороннім оцінювачам складно порівнювати апаратні платформи через їх «заточування» під певні типи робочих навантажень. Коли вони це роблять (Amazon Graviton 3 vs Intel Xeon vs AMD EPYC performance або AWS EC2 m6 Instances Wht Acceleration Matters), головний висновок подібних досліджень - що світ CPU змінюється на очах, а розшифровка продуктивності стає все більш прив'язаною до специфіки завдань. Коли постачальники хмарних послуг говорять про прискорювачі, вони посилаються на обрані навантаження – ті, де можуть виявити неймовірний приріст. У реальних завданнях картина зовсім інша. Описати відмінності, які спостерігаються при використанні прискорювачів на різних платформах – велика проблема.
Крім того, хмарні провайдери, виробляючи власні чіпи, прив'язують користувачів до хмари і роблять робочі навантаження непереносимими до інших постачальників. А клієнти хочуть мобільності. Багато хто будує гібридні хмари і бажає бачити приватну та публічну частини хмарної інфраструктури побудованими на платформах подібної архітектури.
У реальному світі серверного заліза x86 поки що залишається земним стандартом, а нам - вибирати між Intel і AMD. На боці AMD сильна, послідовна стратегія одного сокету.