Qualcomm вбудує у свої чіпи генеративний АІ Meta

За заявою Qualcomm, компанія розробляє чіпи Snapdragon для флагманських смартфонів та персональних комп'ютерів, у яких з 2024 року буде вбудовано генеративний штучний інтелект Meta Llama 2.

Зазначається, що реалізація штучного інтелекту на пристроях дозволяє підвищити конфіденційність користувачів, врахувати переваги в галузі безпеки, підвищити надійність додатків та забезпечити персоналізацію за значно менших витрат для розробників порівняно з використанням виключно хмарних реалізацій та сервісів штучного інтелекту.

Конструкція чіпів дозволить запускати великі мовні моделі Llama 2 безпосередньо на пристрої, не використовуючи хмарні сервіси. Можливість запуску генеративних моделей ШІ, подібних до Llama 2, на таких пристроях, як смартфони, ПК, VR/AR-гарнітури та транспортні засоби, дозволяє розробникам економити на хмарних обчисленнях та надавати користувачам приватний, більш надійний та персоналізований досвід.

Нагадаємо, компанія Meta зробила свою модель великої мови Llama 2 з відкритим вихідним кодом безоплатною та доступною для досліджень та комерційного використання у лютому 2023 р. Всього існує три версії Llama 2 з підтримкою 7, 13 та 70 млрд параметрів.

"Ми вітаємо підхід Meta до відкритого та відповідального АІ та прагнемо стимулювати інновації та знижувати бар'єри для входу розробників будь-якого масштабу шляхом впровадження генеративного АІ у пристрої", - каже Дурга Малладі, старший віцепрезидент та генеральний менеджер підрозділу технологій, планування та граничних рішень Qualcomm Технології. "Для ефективного впровадження генеративного ШІ у масове виробництво необхідно, щоб він працював як у хмарі, так і на периферійних пристроях, таких як смартфони, ноутбуки, автомобілі та пристрої IoT".