Чому відкриті моделі AI не гарантують дешевизну
23 июль, 2026 - 16:25Sergey PetrenkoБен Томсон у своїй регулярній колонці аналізує нещодавній запуск моделі штучного інтелекту Kimi K3 з погляду економіки та зазначає, що тепер можна повернутися до принципів, відомих з практики бізнес-курсів – якщо економіка програмних сервісів дозволяла практично не зважати на вартість додаткової копії, то в інференсі є відчутна собівартість генерації токена, і ці витрати на інференс прямо пропорційні виручці. Якщо генерація токенів на долар виручки коштує 50 центів, то при виручці 100 млн собівартість становитиме 50 млн.
Поширена помилка щодо відкритих моделей полягає в тому, що вони дешевші. Безкоштовність тут стосується лише витрат на дослідження та розробку: завантаживши ваги, ви економите на R&D, але R&D – це фіксовані витрати, вони однакові незалежно від того, чи заробляєте ви 100 тис., чи 100 млн дол.
При цьому Kimi виявляється не дуже дешевою – хоча вартість токенів у ній уп’ятеро менша, ніж у Fable, але для вирішення завдання витрачається більше токенів, тому підсумковий розрив не такий великий.
Гіпотеза Томсона полягає в тому, що до певного моменту Anthropic та OpenAI підтримували високі ціни на інференс, щоб фінансувати R&D, тобто розробку та навчання нових моделей. Але надалі, під ціновим тиском китайських моделей (які при цьому завдяки дистиляції скорочують розрив із лідерами) та неухильним зростанням обсягів інференсу, вони зможуть безпечно знижувати ціни. Фактично, це і є досить старий економічний закон – при зростанні обсягів виробництва собівартість однієї одиниці продукції знижується.
Від себе додам, що у випадку з інтернет-сервісами собівартість обслуговування запиту ніколи не дорівнювала нулю. Навіть відображення статичної сторінки з сервера має свою вартість, хай і дуже малу. Але якщо відображення сторінок вимагає формування стрічки новин на льоту, як для соціальних мереж, або пошуку з ранжуванням і попередньою обробкою запиту, як у пошуковій системі, то собівартість уже цілком помітна. Просто собівартість інференсу ще вища, і плюс-мінус тисяча запитів добре помітні в рахунках.