`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

ИИ-компьютер от SambaNova многократно превосходит системы на базе GPU

0 
 

ИИ-компьютер от SambaNova многократно превосходит системы на базе GPU

Респектабельный аппаратный стартап с финансированием порядка полумиллиарда долларов, SambaNova Systems, представил свою долгожданную компьютерную платформу DataScale, оптимизированную для задач искусственного интеллекта (ИИ).

В DataScale используются заказные 7-нанометровые процессоры, специально спроектированные, чтобы наилучшим образом справляться с перенаправлением потоков входящих данных на нужный выход — то, что, как отметил исполнительный директор стартапа Родриго Лян (Rodrigo Liang), требуется в первую очередь для машинного и глубокого обучения.

Системная архитектура Reconfigurable Dataflow Architecture (RDA) приводится в действие открытым ПО SambaFlow, и минимизирует нагрузку на интерфейс с памятью, устраняя одно из главных узких мест традиционных компьютерных архитектур. RDA позволяет подключать до 12 ТБ памяти непосредственно к процессору и позволяет обойтись без внешних ускорителей, таких как GPU. Кроме того, SambaFlow упрощает масштабирование рабочих нагрузок на множество процессоров.

SambaNova настраивает свою систему индивидуально для каждого заказчика в вариантах, занимающих четверть, половину и полную стойку. Как такового прейскуранта не существует, но, судя по преобладанию среди ранних клиентов государственных лабораторий, стоимость DataScale для них не имеет принципиального значения.

Компания также представила сервисную модель компонуемой инфраструктуры. В соответствии с ней SambaNova устанавливает и обслуживает систему на площадке заказчика, но взимает плату только за использование, начиная от 10 тыс. долл. в месяц.

SambaNova заявила, что новая система может быть установлена и запущена всего за 45 минут. Она рассчитана на работу с уже существующими нагрузками, созданными с использованием популярных библиотек, таких как PyTorch и TensorFlow для разнообразных приложений, включая движки рекомендаций, обработку естественных языков (NLP) и медицинские исследования.

Сравнивая DataScale со специализированной системой для ИИ-вычислений, DGX A100 корпорации Nvidia, SambaNova утверждает, что рекомендательные модели глубокого обучения, исходники которых Facebook открыла в прошлом году, работают на её системе в семь раз быстрее и с более высокой точностью. Для Bert-Large, NLP-модели компании Google, достигается 1,4-кратный выигрыш в быстродействии.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT