0 |
Фирма OctoML, основанная в Сиэтле два года назад, сообщила о выходе обновления своей платформы искусственного интеллекта, которое включает расширенный набор оптимизированных версий популярных ИИ-моделей с открытым исходным кодом и поддержку большего количества инструментов машинного обучения.
По данным стартапа, эти оптимизированные версии нескольких популярных моделей ИИ обходятся вдвое дешевле, чем оригиналы, и потребляют на 50% меньше энергии. В отношении их производительности, OctoML обещает среднее ускорение почти на 300% при использовании графических процессоров.
Модели, которыми пополнилась платформа OctoML, ориентированы на компьютерное зрение и обработку естественного языка. Коллекция включает оптимизированную версию OpenAI GPT-2, а также BERT, которую Google использует в своей поисковой системе.
Платформа OctoML не только сокращает объём ручной работы, связанной с корпоративными проектами машинного обучения, но и нацелена на оптимизацию развёртывания моделей после завершения разработки. Ещё один приоритет – ограничение инфраструктурных затрат предприятий.
Для компаний, планирующих запускать свое ПО в облаке, предоставленная новым релизом возможность развёртывать нейросети на платформе Microsoft Azure станет дополнением к уже существующей поддержке Amazon Web Services и Google Cloud.
Размещать ИИ-модели на периферийных устройствах станет проще благодаря поддержке двух дополнительных чипов Nvidia, Jetson AGX Xavier и Jetson Xavier NX. Первый обычно используется в роботах, а второй нацелен на медицинские устройства, обрабатывающие большие объёмы сенсорных данных.
Завершает перечень нововведений вчерашнего релиза OctoML поддержка ONNX – открытого средства упаковки нейросетей в портативный формат, и движка TensorFlow Lite для создания нейросетей, работающих на подключенных устройствах.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
0 |