`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

OctoML представляет «тюнинговые» версии популярных ИИ-моделей

0 
 

OctoML представляет «тюнинговые» версии популярных ИИ-моделей

Фирма OctoML, основанная в Сиэтле два года назад, сообщила о выходе обновления своей платформы искусственного интеллекта, которое включает расширенный набор оптимизированных версий популярных ИИ-моделей с открытым исходным кодом и поддержку большего количества инструментов машинного обучения.

По данным стартапа, эти оптимизированные версии нескольких популярных моделей ИИ обходятся вдвое дешевле, чем оригиналы, и потребляют на 50% меньше энергии. В отношении их производительности, OctoML обещает среднее ускорение почти на 300% при использовании графических процессоров.

Модели, которыми пополнилась платформа OctoML, ориентированы на компьютерное зрение и обработку естественного языка. Коллекция включает оптимизированную версию OpenAI GPT-2, а также BERT, которую Google использует в своей поисковой системе.

Платформа OctoML не только сокращает объём ручной работы, связанной с корпоративными проектами машинного обучения, но и нацелена ​​на оптимизацию развёртывания моделей после завершения разработки. Ещё один приоритет – ограничение инфраструктурных затрат предприятий.

Для компаний, планирующих запускать свое ПО в облаке, предоставленная новым релизом возможность развёртывать нейросети на платформе Microsoft Azure станет дополнением к уже существующей поддержке Amazon Web Services и Google Cloud.

Размещать ИИ-модели на периферийных устройствах станет проще благодаря поддержке двух дополнительных чипов Nvidia, Jetson AGX Xavier и Jetson Xavier NX. Первый обычно используется в роботах, а второй нацелен на медицинские устройства, обрабатывающие большие объёмы сенсорных данных.

Завершает перечень нововведений вчерашнего релиза OctoML поддержка ONNX – открытого средства упаковки нейросетей в портативный формат, и движка TensorFlow Lite для создания нейросетей, работающих на подключенных устройствах.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT