Автор – Михайло Лаптєв, 9 июля, 13:50
Інференс великих нейромереж стрімко стає локальним. Але чи варто збирати сервери на кількох споживчих GPU? Аналізуємо, чому одна професійна RTX PRO 6000 Blackwell на 96 ГБ працює на рівні чотирьох RTX 5090, споживаючи вчетверо менше. Розбираємо обмеження шини PCIe 5.0 та інженерні жахи систем на 3+ кВт (охолодження, живлення, габарити)
