`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Sergey Petrenko

Перші враження від Apple WWDC та подробиці про Siri AI

0 
 

Фундаментальна зміна – Apple перейшли від природних назв версій macOS до штучних споруд, хоча, треба сказати, вибрали справжній символ свого міста, міст Golden Gate. При цьому окрема подяка за flower power.

Як і передбачалося, всі платформи покращуватимуться, прискорюватимуться і ставатимуть стабільнішими – багато хто згадував про Snow Leopard, яка була такою системою прихованих поліпшень після Leopard. Заодно Apple «покращили» свій новий дизайн, фактично виправивши деякі відверто не Apple риси в торішньому дизайні, типу дивно-острівного сайдбару та іконок. Цікаво буде подивитися, як саме вони переробили Spotlight. Локальний пошук дуже складно зробити добре і досі це завдання добре майже не вирішувалося.

Функції безпеки для дітей мені особисто нецікаві. Але сама ідея зав'язати все на гнучке управління з боку батьків виглядає здорово.

Захід на AI виглядав чудово – ми, мовляв, не те, що інші, які поспішають for the sake of AI, ми хочемо зробити корисно користувачеві. Так, будуть використовуватися кастомні моделі Gemini у private cloud compute, але описані функції передбачають і хорошу локальну модель (або кілька). Цікаво буде подивитися, як це працюватиме. У принципі, Google має gemma, що цілком працює на смартфонах. Поверх цього буде працювати нова Siri – фактично новий агент, глибоко інтегрований з системою і дефолтними додатками. Як я зрозумів, практично все спочатку працюватиме лише для англійської мови, хоча моделі Google підтримують набагато більше мов. Цікаво також, які налаштування будуть доступні для керування моделями, якщо будуть взагалі. Мається на увазі той рівень керування, який зараз нам доступний з ChatGPT, Claude та Gemini.

Поки що Siri AI не працюватиме в Євросоюзі та Китаї. Причому якщо для ЄС причина – відповідність законодавству щодо приватності, то для Китаю Крейг Федеріги згадав «регуляторні питання». Їм взагалі дозволять запустити AI не з китайськими моделями?

Фінал презентації – це коротке прощання Тіма Кука, для якого це остання конференція та, ймовірно, остання презентація Apple. Зворушливо.

**

Трохи конкретики третього покоління Apple Foundation Models – це сімейство з п'яти моделей, створених у співпраці з Google. Дві моделі працюють на пристрої (AFM 3 Core на 3 млрд параметрів та мультимодальна AFM 3 Core Advanced на 20 млрд MoE з активними 1-4 млрд), три – на серверах Private Cloud Compute, включаючи окрему модель для генерації зображень ADM 3 Cloud та найпотужнішу AFM 3 Cloud. За даними Apple, нові моделі помітно випереджають торішні у сліпих порівняннях: AFM 3 Cloud віддали перевагу у 64,7% випадків проти 8,7% у версії 2025 року. Оновлення підживлюють нову Siri, диктування та Image Playground.

Найпотужніша модель, AFM 3 Cloud Pro, оптимізована не під Apple silicon, а під NVIDIA GPU у Google Cloud – Apple розширила туди Private Cloud Compute.

Усі висувають припущення, аналогами яких Gemini ці моделі є, але начебто б це не аналоги – on-device моделі «повністю Apple». AFM 3 Cloud навчена дистиляцією на Gemini, AFM 3 Cloud Pro найближче до Gemini (є припущення, що це Gemini 3.5 Flash), але Apple проводила свої pre-training, post-training та RL. Можливо також, що ADM 3 Cloud (Image) базується на Nano Banana Pro, але це знову ж таки здогади.

Розмір контексту на локальних моделях 8K, серверна модель – 32K. Локальна модель AFM 3 Core Advanced зроблена дуже оригінально – оскільки тримати в DRAM всі параметри неможливо, вони лежать у флеш-пам'яті NAND, при цьому 1 млрд shared experts постійно тримається в DRAM, забезпечуючи нормальну швидкість роботи та приймаючи рішення про роутинг, після чого підвантажуються routed experts. Там багато власних оригінальних розробок Apple, тому вони не просто впилили готові Gemini, як колись просто поставили готові Google Maps на смартфон.

Перші враження від Apple WWDC та Siri AI

Стратегія охолодження ЦОД для епохи AI

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT