IBM заявила про прорив у технології високошвидкісного оптичного з'єднання в ЦОД
Компанія IBM оголосила про новаторське дослідження в галузі оптичних технологій, яке обіцяє здійснити революцію в навчанні та роботі генеративних AI-моделей у центрах обробки даних. Компанія стала піонером у розробці нового підходу до спільного пакування оптики (CPO, Co-Packaged Optics) - технології нового покоління, яка використовує світлові можливості підключення в дата-центрах. Розробивши й зібравши перший публічно анонсований полімерний оптичний хвилевід (PWG, Polymer Optical Waveguide) для роботи цієї інновації, дослідники IBM мають намір по-новому визначити способи передавання даних із високою пропускною спроможністю між мікросхемами, друкованими платами та серверами.
Волоконно-оптичні технології дають змогу передавати величезні обсяги даних на великі відстані. Однак у центрах обробки даних підключення стійок залежить від мідних мережевих кабелів. IBM вважає, що така схема може створювати вузькі місця, обмежуючи швидкість і пропускну здатність, унаслідок чого прискорювачі GPU простоюють тривалий час під час розподілених процесів навчання AI. Прорив IBM спрямований на те, щоб внести швидкість і ефективність оптики в ці внутрішні з'єднання, значно підвищивши продуктивність і енергоефективність.
IBM продемонструвала новий прототип модуля CPO, що забезпечує високошвидкісне оптичне з'єднання в центрах обробки даних. Дослідження, опубліковане в статті на сайті arXiv, розповідає про те, як ця технологія може значно збільшити пропускну спроможність, скоротити час простою графічних процесорів і прискорити навчання AI-моделей, водночас розв'язуючи проблему наростального попиту на енергію в ЦОДах.
Зазначається, технологія CPO дає змогу більш ніж у 5 разів знизити енергоспоживання порівняно з електричними міжз'єднаннями середнього рівня. Це досягнення також дає змогу подовжувати з'єднувальні кабелі в дата-центрах від кількох метрів до сотень метрів, що значно знижує експлуатаційні витрати.
Замінивши традиційну електричну проводку оптичним з'єднанням, CPO може збільшити швидкість навчання великих мовних моделей (LLM) у п'ять разів. Наприклад, час навчання LLM може скоротитися з трьох місяців до трьох тижнів, а в міру розширення моделей і ресурсів GPU продуктивність буде ще вищою.
За оцінками IBM, кожна AI-модель, навчена з використанням CPO, може заощадити електроенергію, еквівалентну річному споживанню 5000 домогосподарств, що підкреслює перетворювальний вплив на енергоефективність.
Модулі CPO забезпечують у 80 разів більшу пропускну здатність між чіпами порівняно з електричними з'єднаннями. Інновація IBM дає змогу виробникам мікросхем додавати вшестеро більше оптичних волокон на межі кремнієвих фотонних чипів, що називається «щільністю на березі», підвищуючи загальну пропускну здатність центрів обробки даних.
Дослідницька група IBM розробила PWG високої щільності з оптичними каналами з кроком 50 мкм, адіабатично з'єднаними з кремнієвими фотонними хвилеводами. Ця збірка, виконана з використанням стандартних пакувальних процесів, уперше пройшла суворі виробничі стрес-тести, включно з високою вологістю, екстремальними температурами від -40°C до 125°C і механічною міцністю. Укладання PWG дає змогу використовувати до 128 каналів зв'язку, забезпечуючи безпрецедентну масштабованість.
Старший віцепрезидент і директор із досліджень IBM Даріо Гіл (Dario Gil) наголосив на перетворювальному потенціалі CPO: «Оскільки генеративний AI потребує дедалі більше енергії та обчислювальної потужності, дата-центри повинні розвиватися, і оптика зі спільним пакуванням може зробити ці центри обробки даних стійкими до майбутнього. Завдяки цьому прориву завтрашні чіпи передаватимуть дані в ЦОДи подібно до того, як це роблять оптоволоконні кабелі, відкриваючи нову еру швидших і стійкіших комунікацій, здатних впоратися з робочими навантаженнями AI майбутнього».
Роботу IBM над CPO вели в Олбані, шт. Нью-Йорк, де нещодавно було відкрито Національний центр напівпровідникових технологій (NSTC). Складання прототипів і тестування модулів проводили на підприємстві IBM у Бромонті (Квебек), що є лідером у сфері пакування мікросхем. Ця співпраця є частиною ініціативи «Північно-східний напівпровідниковий коридор», спрямованої на зміцнення інновацій у галузі напівпровідників на території США і Канади.