| 0 |
|
Лабораторія Thinking Machines, що була заснована колишньою технічною директоркою OpenAI Мірою Мураті (Mira Murati), випустила свою першу базову модель під назвою Inkling.
Як повідомляється, розробники виклали повні відкриті ваги (open weights) моделі у вільний доступ. Це дозволяє компаніям безкоштовно завантажувати її, запускати на власній інфраструктурі та гнучко налаштовувати під специфічні корпоративні потреби без сплати ліцензійних платежів.
Inkling стала першою системою, яку стартап навчив з нуля після року роботи, що запам'ятався великими раундами фінансування та стратегічним партнерством із корпорацією NVIDIA.
З технічного погляду Inkling є мультимодальною моделлю архітектури Mixture-of-Experts загальним обсягом 975 млрд параметрів. Проте для обробки стандартного запиту вона залучає лише приблизно 41 млрд параметрів, що дозволяє виконувати операції значно швидше та утримувати низьку вартість обчислень. Модель тренували на масиві з 45 трлн токенів, який охоплював текст, зображення, аудіо та відео. Inkling здатна аналізувати та логічно пов'язувати всі чотири типи вхідних даних, хоча її вихідні результати наразі обмежені лише текстом, кодом, структурованими даними та елементами стилізованої розмітки.
Новий реліз покликаний запропонувати західну альтернативу дешевшим китайським open-source моделям, які останнім часом домінували на ринку на тлі того, як корпорація Meta почала віддавати пріоритет закритим комерційним системам.
Inkling підтримує унікальну функцію регулювання зусиль мислення (thinking effort), яка дозволяє розробникам самостійно балансувати між швидкістю роботи та точністю відповідей. Крім того, модель самостійно маркує рівень невпевненості у своїх висновках замість генерування неправдивих тверджень. Для тонкого налаштування відкритих ваг під вузькопрофільні завдання Thinking Machines пропонує скористатися своєю платною хмарною платформою Tinker, яка була запущена в жовтні.
Ефективність такого підходу вже підтвердили перші випробування, проведені спільно з інвестиційною компанією Bridgewater Associates. Спеціалісти використали інструмент Tinker для навчання відкритої моделі на закритих фінансових базах даних. У результаті вони отримали полегшену та дешеву систему, яка набрала 84,7% у провідних галузевих тестах фінансового мислення, випередивши найсучасніші закриті комерційні альтернативи при витратах, менших на 90%. Саму Inkling вдалося розробити з нуля менш ніж за дев'ять місяців завдяки використанню суперкомп'ютерних систем NVIDIA GB300 NVL72.
Монетизувати свій продукт Thinking Machines планує не через платні інтерфейси доступу, а саме за рахунок надання платних послуг з індивідуального налаштування моделей через платформу Tinker.
Випуск моделі Inkling є прямим викликом домінантній бізнес-моделі закритих екосистем, які контролюють ринок штучного інтелекту через платні підписки та лічильники використання API. Створюючи потужну модель із відкритими вагами, Thinking Machines переносить акцент із операційних витрат на капіталізацію власної інфраструктури корпоративних клієнтів. Це критично важливо для великих підприємств у регульованих секторах, таких як фінанси чи медицина, які не можуть передавати конфіденційні дані стороннім хмарним провайдерам і вимагають повного локального контролю над кодом.
Ця подія також знаменує початок жорсткої конкуренції за ринок інструментів для кастомізації штучного інтелекту. Замість продажу доступу до готового сервісу, розробники робитимуть ставку на платні платформи для тонкого налаштування відкритих моделей під конкретні бізнес-задачі. Якщо така стратегія виправдає себе, це прискорить перетворення великих мовних моделей на доступну інфраструктурну сировину, позбавивши закриті лабораторії їхньої головної конкурентної переваги та змусивши ринок змагатися не якістю базових алгоритмів, а зручністю засобів їхнього кінцевого впровадження.
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
