Tenstorrent прагне знизити ціни на AI-платформи

17 июль, 2024 - 13:35

Tenstorrent прагне знизити ціни на AI-платформи

Джим Келлер (Jim Keller), розробник чипів, який працював в Intel, AMD і Tesla, а нині є генеральним директором Tenstorrent, націлює свою компанію на те, щоб знизити ціни на додатки для штучного інтелекту, створюючи чипи, ефективніші, ніж у Nvidia, щоб відвоювати частину ринку, який займає американський гігант.

За його словами, з розширенням використання AI у смартфонах, електромобілях і хмарних сервісах дедалі більше компаній шукають дешевші рішення, додавши, що є "безліч невеликих компаній, які не хочуть платити 20 тис. дол." за висококласні графічні процесори Nvidia, які вважаються найкращими на ринку.

Келлер відомий як провідний дизайнер серії Zen від AMD, яка, на думку багатьох, сприяла поверненню AMD після того, як наприкінці 2010-х років їй насилу вдавалося йти в ногу з Intel. Він також був провідною фігурою в розробці чипсетів для Autopilot, програмного забезпечення Tesla для самостійного водіння.

Компанія Tenstorrent, заснована у 2016 році, готується до продажу свого багатоцільового AI-чіпа другого покоління наприкінці цього року. За її твердженням, у деяких галузях його енергоефективність і ефективність оброблення даних вищі, ніж у графічних процесорів Nvidia. За даними Tenstorrent, її системи Galaxy втричі ефективніші та на 33% дешевші, ніж Nvidia DGX.

За словами Келлера, такий результат пояснюється відмовою від використання пам'яті з високою пропускною здатністю. HBM є важливим компонентом для чипів генеративного AI та зіграла значну роль в успіху пропозицій Nvidia. Однак HBM також вирізняється величезним енергоспоживанням і високими цінами на AI-чіпи.

"Навіть ті, хто використовує HBM, стикаються з проблемою її вартості та часу проєктування", - сказав Келлер, додавши, що він прийняв технічне рішення не використовувати цю технологію.

У типовому AI-чипсеті графічний процесор відправляє дані в пам'ять щоразу, коли виконується будь-який процес. Для цього потрібні високошвидкісні можливості передачі даних HBM. Однак компанія Tenstorrent спеціально розробила свій чіп, щоб різко скоротити кількість таких передач.

За словами Келлера, завдяки цьому новому підходу чіп його компанії може замінити як GPU, так і HBM у деяких галузях AI-розробки. Він повідомив, що Tenstorrent також розробляє свій продукт, щоб він був "якомога більш економічним". Багато інших компаній у цій галузі також шукають краще рішення для пам'яті, додав він, але в більш обережній манері визнав, що будуть потрібні роки, щоб зруйнувати "величезну" наявну індустрію HBM.

Келлер пророкує, що замість Nvidia з'явиться більше нових гравців, які заповнять різні AI-ринки, що не обслуговуються цією компанією.

Ключова особливість чіпа Tentorrent - маленькі процесори, у кожному з яких більше ніж сто ядер. Зазвичай одне ядро чипа має лише невеликий обчислювач і пам'ять, і відповідає лише за вирішення одного поставленого завдання. Однак ядра Tenstorrent зможуть працювати самостійно, вирішуючи, які дані опрацьовувати першочергово або відмовитися від виконання певних завдань, якщо вони здадуться непотрібними, що підвищить загальну ефективність.

За словами Tentorrent, оскільки кожне ядро є відносно незалежним, чип можна адаптувати для ширшого спектра застосунків, об'єднуючи більшу або меншу їхню кількість. Наприклад, невеликої кількості буде достатньо для смартфона або переносного пристрою, а 100 можна об'єднати для використання в центрах обробки даних штучного інтелекту.

Така гнучкість важлива, оскільки питання про те, як розвиватиметься AI та для чого його використовуватимуть, усе ще залишаються відкритими для дискусій. На думку Келлера, неможливо передбачити, яким буде найкраще застосування AI. "Сьогодні я не можу сказати, чи буде це більше або менше. Тому наша стратегія полягає в тому, що ми створюємо технологію, яка підходить для широкого спектра продуктів", - наголосив він.