Meta починає тестувати свій перший власний чип для навчання АІ

Агентство Reuters повідомило, що власник Facebook компанія Meta  тестує свій перший власний чип для навчання систем штучного інтелекту, що є ключовою віхою на шляху до зменшення залежності від зовнішніх постачальників, таких як Nvidia.

 

Найбільша в світі компанія соціальних мереж почала невелике розгортання чипа і планує нарощувати виробництво для широкомасштабного використання, якщо тест пройде успішно, сказали джерела.

 

Поштовх до розробки власних чіпів є частиною довгострокового плану Meta, спрямованого на зниження величезних витрат на інфраструктуру, оскільки компанія робить високі ставки на інструменти штучного інтелекту для стимулювання зростання.

 

Meta, яка також володіє Instagram і WhatsApp, прогнозує загальні витрати на 2025 рік у розмірі 114-119 мільярдів доларів, включаючи до 65 мільярдів доларів капітальних витрат, які в основному зумовлені вкладеннями в інфраструктуру штучного інтелекту.

 

Одне з джерел Reuters повідомило, що новий чип Meta - це спеціалізований прискорювач, тобто він призначений для виконання лише специфічних для АІ завдань. Це може зробити його більш енергоефективним, ніж інтегровані графічні процесори (GPU), які зазвичай використовуються для робочих навантажень АІ.

 

Meta працює з тайванським виробником чіпів TSMC.

 

Тестове розгортання почалося після того, як Meta завершила перший «tape-out» чіпа, що є важливим маркером успіху в розробці кремнію.

 

Типове тестування коштує десятки мільйонів доларів і займає приблизно від трьох до шести місяців, при цьому немає жодних гарантій, що тест буде успішним. У разі невдачі Meta буде змушена знайти проблему і повторити етап перезапису.

 

Чип є останньою розробкою в серії Meta Training and Inference Accelerator (MTIA). Програма вже багато років має хиткий старт і в якийсь момент відмовлялася від чипа на аналогічній стадії розробки.

Однак минулого року Meta почала використовувати чип MTIA для виконання висновків, або процесу, пов'язаного з роботою системи штучного інтелекту в процесі взаємодії користувачів з нею, для рекомендаційних систем, які визначають, який контент з'являється в новинних стрічках Facebook та Instagram.

 

Керівники Meta заявили, що хочуть почати використовувати свої власні чипи до 2026 року для навчання АІ-системі.

 

Як і у випадку з чипом висновків, мета для навчального чипа - почати з рекомендаційних систем, а пізніше використовувати його для генеративних продуктів АІ, таких як чат-бот Meta AI, кажуть керівники компанії.

 

«Ми працюємо над тим, як проводити навчання для рекомендаційних систем, а потім, в кінцевому підсумку, як ми думаємо про навчання і висновки для генеративного АІ», - сказав директор по продуктам Meta Кріс Кокс (Chris Cox) на конференції Morgan Stanley, присвяченій технологіям, медіа та телекомунікаціям, минулого тижня.

 

Кокс описав зусилля Meta з розробки чипів як «щось на кшталт ситуації “ходи, повзи, біжи”, але сказав, що керівники вважають чип першого покоління для виведення рекомендацій “великим успіхом”.

 

Раніше Meta вже відмовлялася від власного чипа виведення після того, як він зазнав невдачі під час невеликого тестового розгортання, подібного до того, яке вона проводить зараз для навчального чипа. Тоді компанія змінила курс і розмістила замовлення на графічні процесори Nvidia на мільярди доларів у 2022 році.

 

З тих пір компанія соціальних мереж залишається одним з найбільших клієнтів Nvidia, накопичивши арсенал графічних процесорів для навчання своїх моделей, в тому числі для систем рекомендацій і реклами, а також для серії моделей Llama Foundation. Ці пристрої також виконують висновки для більш ніж 3 мільярдів людей, які щодня користуються її додатками.

 

Цінність цих графічних процесорів була поставлена під сумнів цього року, оскільки дослідники АІ все частіше висловлюють сумніви щодо того, наскільки більшого прогресу можна досягти, продовжуючи «масштабувати» великі мовні моделі, додаючи все більше даних і обчислювальних потужностей.

 

Ці сумніви посилилися після запуску наприкінці січня нових недорогих моделей від китайського стартапу DeepSeek, які оптимізують обчислювальну ефективність, більше покладаючись на висновок, ніж більшість існуючих моделей.

 

Під час глобального обвалу, спричиненого DeepSeek, акції Nvidia втратили до п'ятої частини своєї вартості в певний момент. Згодом вони відновили більшу частину своїх позицій, оскільки інвестори роблять ставку на те, що чіпи компанії залишаться галузевим стандартом для навчання та висновків, хоча вони знову впали через більш широкі торгові проблеми.