Компанія OpenAI уклала остаточну угоду про придбання стартапу Neptune Lab (neptune.ai), який спеціалізується на розробці інструментів моніторингу та налагодження, що використовуються при тренуванні масштабних моделей штучного інтелекту. Умови угоди не розголошуються, проте відомо, що Neptune раніше залучив понад 18 мільйонів доларів інвестицій.
Аналітики зазначають, що придбання Neptune є стратегічним кроком для посилення внутрішньої дослідницької інфраструктури OpenAI, оскільки це дозволить інтегрувати спеціалізовані метричні інструменти безпосередньо в основний стек тренування моделей.
Інтеграція для глибинного аналізу моделей
Як заявив головний науковий співробітник OpenAI, Якуб Пачоцькі (Jakub Pachocki), Neptune створив «швидку, точну систему, яка дозволяє дослідникам аналізувати складні робочі процеси тренування».
Технологія Neptune дозволяє відстежувати експерименти, моніторити тренування та розуміти комплексну поведінку моделей у режимі реального часу, що є критично важливим для frontier research. Neptune функціонує як централізоване сховище метаданих та панель інструментів. Воно дозволяє дослідникам моніторити тисячі метрик по шарах нейронної мережі, включаючи градієнти та активації, допомагаючи швидко виявляти приховані проблеми, як-от зникнення чи вибухові градієнти, які не завжди помітні на агрегованих метриках.
Генеральний директор Neptune, Пьотр Нєдзвєдзь (Piotr Niedźwiedź), підтвердив у блозі компанії, що Neptune згортатиме свої зовнішні послуги протягом найближчих місяців, оскільки команда повністю переходить на внутрішню підтримку досліджень OpenAI. Це рішення змусить існуючих клієнтів Neptune мігрувати свої дані, але підкреслює стратегію вертикальної інтеграції OpenAI, спрямовану на повний контроль над критично важливими інструментами для досліджень.
Neptune Lab зі штаб-квартирою у Пало-Альто та офісом розробки у Варшаві була заснована Пьотром Нєдзвєдзем у 2017 році. До цього він також заснував стартап Deepsense. Перед цим він встиг попрацювати інтерном в Google та Meta.