За повідомленням Cerebras, під час роботи з моделлю Llama 3.1-70B було забезпечено швидкість виводів 2100 токенів на секунду, що в 3 рази більше, ніж у попередньому випуску. Для порівняння, ця продуктивність становить:
- 16-кратне прискорення порівняно з найшвидшим рішенням на GPU;
Компанія Lenovo оголосила про випуск провідних у галузі інфраструктурних рішень ThinkSystem на базі процесорів AMD EPYC 9005 Series, а також прискорювачів AMD Instinct MI325X.
