`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Гібридна технологія пам'яті забезпечує навчання AI та логічний висновок на чіпі

0 
 

Гібридна технологія пам'яті забезпечує навчання AI та логічний висновок на чіпі

Перетинаючи технологічну перешкоду, яка довгий час обмежувала ефективне навчання AI на периферійних пристроях, команда французьких вчених розробила першу гібридну технологію пам'яті для підтримки адаптивного локального навчання та висновків штучних нейронних мереж.

У статті під назвою «A Ferroelectric-Memristor Memory for Both Training and Inference» (Фероелектрично-мемристорна пам'ять як для навчання, так і для висновків), опублікованій у Nature Electronics, команда представляє нову гібридну систему пам'яті, яка поєднує найкращі властивості двох раніше несумісних технологій — фероелектричних конденсаторів і мемристорів — в одному, сумісному з CMOS стеку пам'яті. Ця нова архітектура пропонує довгоочікуване рішення однієї з найбільш прикрих проблем периферійного AI: як виконувати як навчання, так і висновки на чипі, не спалюючи енергетичні бюджети та не створюючи надмірних апаратних обмежень.

На чолі з CEA-Leti, до складу якого входять вчені з кількох французьких дослідницьких центрів мікроелектроніки, проєкт продемонстрував, що можна виконувати навчання на чипі з конкурентною точністю, уникаючи необхідності оновлень поза чипом та складних зовнішніх систем. Інновація команди дозволяє периферійним системам і пристроям, таким як автономні транспортні засоби, медичні датчики та промислові монітори, навчатися на основі даних реального світу в міру їх надходження — адаптуючи моделі на льоту, одночасно тримаючи під жорстким контролем енергоспоживання та зношування обладнання.

Периферійний AI вимагає як висновків (читання даних для прийняття рішень), так і навчання (оновлення моделей на основі нових даних). Але дотепер технології пам'яті могли добре виконувати лише одне.

Мемристори (резистивна пам'ять з довільним доступом) відмінно підходять для висновків, оскільки вони можуть зберігати аналогові ваги, є енергоефективними під час операцій читання та підтримують обчислення в пам'яті.

Фероелектричні конденсатори (FeCAPs) дозволяють швидко оновлювати дані з низьким енергоспоживанням, але їхні операції читання є руйнівними — що робить їх непридатними для висновків.

В результаті, розробники апаратного забезпечення стикалися з вибором: або віддавати перевагу висновкам і передавати навчання в хмару, або намагатися проводити навчання з високими витратами та обмеженим терміном служби.

Основна ідея команди полягала в тому, що хоча аналогової точності мемристорів достатньо для висновків, її недостатньо для навчання, яке вимагає невеликих, прогресивних коригувань ваг.

«Натхненні квантованими нейронними мережами, ми застосували гібридний підхід: прямий та зворотний проходи використовують ваги з низькою точністю, які зберігаються в аналоговій формі в мемристорах, тоді як оновлення досягаються за допомогою FeCAP з вищою точністю. Мемристори періодично перепрограмуються на основі найбільш значущих бітів, що зберігаються в FeCAP, забезпечуючи ефективне та точне навчання», — сказав Мікеле Мартемуччі (Michele Martemucci), провідний автор статті.

Команда розробила уніфікований стек пам'яті, виготовлений з оксиду гафнію, легованого кремнієм, з шаром поглинання титану. Цей дворежимний пристрій може працювати як FeCAP або мемристор, залежно від того, як він електрично «сформований».

Одна й та сама одиниця пам'яті може використовуватися для точного цифрового зберігання ваг (навчання) та аналогового вираження ваг (висновки), залежно від її стану.

Метод цифро-аналогової передачі, що не вимагає формального ЦАП, перетворює приховані ваги в FeCAP на рівні провідності в мемристорах.

Це апаратне забезпечення було виготовлено та протестовано на масиві з 18432 пристроїв з використанням стандартної технології 130 нм CMOS, інтегруючи обидва типи пам'яті та їх периферійні схеми на одному чипі.

Окрім CEA-Leti, до дослідницької групи увійшли вчені з Université Grenoble Alpes, CEA-List, Французького національного центру наукових досліджень (CNRS), University of Bordeaux, Bordeaux INP, IMS France, Université Paris-Saclay та Центру нанонаук і нанотехнологій (C2N).

Стратегія охолодження ЦОД для епохи AI

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT