Звіт MIT про те, що 95% компаній отримують «нульову віддачу» від інвестицій у генеративний AI, спровокував цілком передбачуваний розпродаж. Компанія Nvidia втратила 3,5%, хоча нещодавно стала першою компанією з капіталізацією у 4 трлн дол. Palantir та ARM впали ще сильніше – на 9,4% та 5% відповідно.

Цікаво, що найбільше падіння показали Oracle та AMD – саме ті компанії, які демонстрували найкращу динаміку з травня – на 5,9% та 5,4% відповідно.

Financial Times вбачає ще одну причину в словах Сема Альтмана (Sam Altman), який минулого тижня сказав, що «деякі інвестори втратять багато грошей».

Втім, за останні п’ять років ми так звикли до щоденних стрибків фондового ринку на відсотки та десятки відсотків у різні боки, що тепер це навіть корекцією ніхто не називає. Це лише волатильність, не більше.

«95% компаній отримують «нульову віддачу» від інвестицій у GenAI»

OpenAI організувала для кількох журналістів вечерю з Семом Альтманом, на якій також були присутні інші топменеджери компанії, включно з головним операційним директором Бредом Лайткепом. Кейсі Ньютон, автор Platformer, зробив детальний виклад розмови.

Про запуск GPT-5 і реакцію користувачів

Визнання помилок: Альтман визнав, що компанія «однозначно накосячила» із запуском GPT-5. Вони різко відключили доступ до GPT-4o та інших попередніх моделей, що викликало найбільший бунт користувачів в історії компанії.

Парасоціальні відносини: OpenAI не врахувала, що деякі користувачі розвинули емоційну прихильність до конкретних моделей. Хоча Альтман зазначив, що таких людей «дуже малий відсоток», посилаючись на спільноти типу r/MyBoyfriendIsAI. Сам він не відчув «ні краплі» смутку з приводу втрати GPT-4o.

Зростання доходів: Попри скандал, доходи від API подвоїлися в перші 48 годин після виходу GPT-5.

«Тепліша» версія: У четвер OpenAI випустила «набагато теплішу» версію GPT-5, яка починає з емпатичних фраз типу «це звучить складно» при обговоренні проблем користувача.

Про бульбашку AI та фінанси

«Так, ми в бульбашці»: На пряме запитання про бульбашку AI Альтман відповів ствердно. Інвестори «в цілому перехвильовані», і «хтось втратить феноменальну кількість грошей».

Прибутковість: Кумедний момент – Альтман заявив, що OpenAI «прибуткова на рівні інференсу» (якщо відняти астрономічні витрати на навчання моделей). Його COO Бред Лайткеп нервово виправив: «Досить близько до цього».

Трильйони на дата-центри: OpenAI планує витрачати «трильйони доларів на дата-центри», і коли економісти будуть обурюватися, компанія скаже: «Дайте нам робити нашу справу, будь ласка».

Про нові продукти та плани

Chrome: Якщо Google дійсно буде продавати Chrome, OpenAI «погляне на це» і зацікавлена в покупці.

Проєкт з Джоні Айвом: Альтман не дав жодного натяку на те, над чим вони працюють, але це займе «досить багато часу».

Більше додатків: Компанія планує випустити більше додатків під керівництвом нового CEO з додатків Фіджі Сімо.

Соціальні мережі: OpenAI зацікавлена в створенні соціальних експериментів, але поки не знайшла ідею, яка їм дійсно подобається.

Про політику та етику

Політичний тиск: Компанія поки не відчуває сильного політичного тиску змінити висновки ChatGPT, але «очікує, що він з'явиться дуже скоро».

Конфіденційність: Користувачі чат-ботів повинні мати щось на зразок лікарської таємниці, оскільки діляться найінтимнішими думками.

«Японські аніме секс-боти»: OpenAI категорично відмовляється створювати подібне в стилі Grok, хоча визнає, що для відсталих в AI компаній це легкий спосіб залучити користувачів.

Особисті моменти

Не використовує Google: Альтман каже, що більше не користується Google – ChatGPT обробляє майже всі його запити.

Стосунки з Олександром Вангом: Раніше були нормальні, тепер «не дуже хороші» після того, як Ванг переманив кількох топових співробітників OpenAI в лабораторію Meta.

Конфлікт з Маском: На питання, чому він кинув виклик Ілону Маску в X з приводу маніпуляцій з алгоритмами, Альтман посміхнувся і сказав: «Немає дисципліни».

«Трильйони доларів на дата-центри»

Після скарг клієнтів Cloudflare провела розслідування і з'ясувала, що Perplexity порушує стандарти індексування, вже багато років загальноприйняті в інтернеті. Навіть коли сайти явно забороняють сканування в robots.txt і блокують офіційні боти Perplexity, компанія все одно дістає контент через краулери, що маскуються під звичайний браузер Chrome.

Методика виглядає так – спочатку приходить офіційний PerplexityBot. Якщо його блокують – включається план Б з user agent «Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7)». Крім того, використовується постійна ротація IP з різних мереж і навіть автономних систем.

Усе це явно порушує Robots Exclusion Protocol, описаний у RFC, який досі вважався практично непорушним. Принаймні досі компанії, помічені в його порушенні, червоніли, перепрошували та припиняли подібну практику. Але Perplexity явно націлилася на лаври enfant terrible серед AI та пошуковиків.

Cloudflare вже виключила Perplexity зі списку верифікованих ботів і додала блокування у свої правила. Це доступно всім клієнтам, включно з безплатними акаунтами. Втім, як пишуть самі Cloudflare, після цього поведінка Perplexity напевно зміниться. І почнеться новий раунд гри в кішки-мишки.

Perplexity приховано сканує сайти навіть в обхід заборони

CEO Apple Тім Кук провів загальні збори співробітників – таке трапляється нечасто – і фактично визнав, що компанія запізнилася до початку AI-революції. Хоча зробив він це у своєму стилі, нагадавши, що Apple рідко бувала першою. PC з'явився до Mac, смартфони до iPhone. Але саме Apple створювала «сучасні» версії цих продуктів.

Найцікавіше розповів Крейг Федерігі про Siri. Виявляється, вони намагалися створити гібридну систему, яка б поєднувала старі команди типу установки таймерів з новими можливостями LLM. Не вийшло. «Ми зрозуміли, що цей підхід не дотягне до якості Apple», – визнав він. Тепер переробляють всю архітектуру з нуля.

Керівництво проєктом поклали на Майка Роквелла, який до цього займався Apple Vision Pro.

Втім, Apple готується вкладати серйозні кошти. За рік найняли 12 тисяч осіб, причому 40% – в дослідження і розробки. Працюють над спеціалізованим чіпом для хмарних AI-обчислень під кодовою назвою Baltra. Будують завод з виробництва AI-серверів в Х'юстоні.

А в кінці зустрічі Кук інтригував: продуктовий пайплайн «приголомшливий», але говорити про нього він не може. За даними Bloomberg, там і складаний iPhone в наступному році, і розумні окуляри, і навіть роботи. І красива цитата «AI is ours to grab».

В принципі, Тім правий – компанія рідко робила щось першою, від персонального комп'ютера через mp3-плеєри, смартфони, планшети й годинники, але кожного разу робила це нарешті правильно. Проблема тільки в тому, що ніколи раніше вона так не відставала.

Наздогнати та перегнати

Anthropic з колегами опублікували дослідження про те, що вони назвали «subliminal learning» – підсвідомим навчанням великих мовних моделей (LLM). Суть у тому, що моделі можуть передавати одна одній поведінкові риси через дані, які ніяк із цими рисами не пов'язані.

Наприклад, модель, яка «любить сов», генерує звичайні послідовності чисел. Інша модель, навчена на цих числах, теж починає віддавати перевагу совам у своїх відповідях. Жодних згадок сов у числах немає, але перевага передається.

Цікава деталь – це працює тільки між моделями зі спільною базою. GPT-4 може передати риси іншій GPT-4, але не Qwen або Claude. Дослідники припускають, що справа в модель-специфічних статистичних патернах.

Проблема в тому, що так само може передаватися і небажана поведінка. Модель із проблемами в alignment може «заразити» інші моделі через цілком нешкідливі на вигляд дані – числа, код, математичні викладки. І фільтрація тут не допоможе, оскільки на семантичному рівні дані чисті.

Для індустрії це означає необхідність перегляду практик дистиляції моделей. Простої фільтрації контенту вже недостатньо. Потрібні глибші методи контролю.

У мене є окрема розвага – знаходити аналогії в людській поведінці для всякого нового ефекту в LLM. Ось тут я відразу подумав про поведінковий таргетинг. Адже його основна особливість полягає в тому, що людину відносять до певного кластера на підставі поведінки в онлайні та поширюють інші характеристики кластера для показу їй реклами. У підсумку людина, яка регулярно відвідує сторінки про фінанси та новини, у підсумку побачить рекламу дорогих смартфонів – тому що інші люди, які відвідують ці сторінки, відвідують також огляди дорогих смартфонів. І це тільки найближчий приклад.

Підсвідоме навчання LLM

Адміністрація Трампа представила 23-сторінковий план розвитку AI в США, який передбачає істотне послаблення регулювання та розширення енергетичних потужностей для дата-центрів. План підготував «AI-цар» Девід Сакс спільно з командою радників, включаючи Срірама Крішнана і Майкла Краціоса.

Цікаво, що документ вимагає від федеральних агентств закуповувати тільки ті мовні моделі, які вважаються «вільними від ідеологічних забобонів». При цьому до числа забобонів не будуть відноситися згадки про дезінформацію, різноманітність і кліматичні зміни. Фактично це означає повний відкат політики в області AI safety, що здійснювалася при Байдені.

Цікавий момент з фінансуванням – Білий дім планує обмежувати федеральні гранти для штатів, які введуть «обтяжливі» правила для AI. Виглядає як ще один прояв лобізму Big Tech, які до цього просували поправку, що забороняє штатам 10 років взагалі регулювати AI.

У частині конкуренції з Китаєм план пропонує посилити експортний контроль, залишаючи деталі на розсуд міністерства торгівлі. З огляду на те що тижнем раніше це міністерство дозволило Nvidia постачати чіпи H20 до Китаю, швидше за все, цей контроль обмежиться заявами без реального посилення. Відповідне пояснення вже є – мовляв, приватні послаблення покликані зберегти конкурентоспроможність американських компаній на китайському ринку.

Втім, найбільш практична частина плану стосується енергетики – розвиток ядерної та геотермальної генерації для забезпечення дата-центрів. З огляду на те що сучасні AI-системи споживають енергії як цілі міста, це може стати ключовим фактором успіху всієї ініціативи.

План розвитку AI в США – послаблення регулювання та енергетика

Марк Закерберг дав невелике інтерв'ю новому проєкту TheInformation TITV про плани Meta в галузі AI та озвучив дві нові стратегії компанії. Перша стосується «персонального суперінтелекту» – бачення, що кардинально відрізняється від підходів інших лабораторій на кшталт OpenAI. Замість централізованого ШІ для вирішення глобальних завдань, Meta фокусується на тому, щоб дати кожній людині доступ до суперінтелекту для повсякденних потреб – стосунків, творчості, розваг.

Друга стратегія – масштабні капіталовкладення. Meta будує дата-центри потужністю в кілька гігаватів, включно з проєктом Hyperion (у його пості у Facebook розмір дата-центру продемонстровано накладанням його профілю на Мангеттен). Компанія використовує незвичайний підхід – встановлює сервери в «штормостійких наметах» для прискорення будівництва.

Закерберг активно переманює дослідників з OpenAI та інших лабораторій, пропонуючи їм максимальну кількість обчислювальних потужностей на дослідника. За його словами, найкращі фахівці хочуть «мінімум підлеглих і максимум GPU». При цьому він заперечує правдивість повідомлень про пакети в 100-200 млн дол. для топ-кандидатів.

Ключова ідея – AI-окуляри як основна платформа для персонального суперінтелекту. Закерберг вважає, що в майбутньому відсутність AI-окулярів означатиме «когнітивну неповноцінність», як відсутність звичайних окулярів для корекції зору сьогодні.

AI-окуляри для персонального суперінтелекту

METR провів дослідження впливу AI-інструментів на продуктивність досвідчених розробників, які працюють зі зрілими проєктами з відкритим вихідним кодом. Результати виявилися несподіваними – продуктивність знизилася на 19%, хоча самі учасники вважали, що AI прискорив їхню роботу на 20%.

Методологія була максимально суворою: 16 розробників з великих open-source проєктів виконували 246 завдань, випадковим чином розподілених на категорії «з AI» і «без AI». У середньому проєкти мали вік понад 10 років і містили більш як мільйон рядків коду.

Основні проблеми: AI-генерований код не відповідав «високим стандартам проєктів», розробники витрачали багато часу на перевірку і виправлення коду (приймали тільки 39% генерацій), часто доводилося писати код наново після кількох невдалих спроб з AI.

Дослідження показало, що сучасні AI-інструменти добре працюють із невеликими, чітко визначеними, «зеленопольними» проєктами. Але погано справляються з великими кодовими базами, де потрібне глибоке розуміння контексту і неявних знань про проєкт.

Важливий висновок: навіть коли розробники працювали на 19% повільніше з AI, вони суб'єктивно відчували прискорення на 20%. Це ставить під сумнів достовірність багатьох звітів про ефективність AI-інструментів, заснованих на самооцінці.

Утім, цілком можливе й інше пояснення – досвідчені розробники вимагали переробляти код, коли він їм не підходив за стилем або був, на їхню думку, недостатньо ефективним, ігноруючи його реальну роботу. У цьому разі може вийти, що в реальному житті навіть без AI «досвідчені розробники» витрачають на виконання завдання на 39% більше часу і зусиль (з AI вони прискорилися на 20%, але все одно повільніше на 19%), ніж це реально необхідно.

AI знижує продуктивність досвідчених програмістів?

Anthropic запустив інтерактивні артефакти в Claude – тепер можна створювати і розміщувати AI-додатки прямо в інтерфейсі. Цікаво побудована економіка використання: коли хтось користується вашим додатком, API-запити списуються з його підписки, а не з вашої.

Claude може створювати артефакти, які взаємодіють з Claude API, перетворюючи їх на повноцінні AI-додатки. Користувачі вже створюють ігри з NPC, які пам'ятають розмови, навчальні інструменти з персоналізацією, додатки для аналізу даних і складні агентські workflow.

Процес простий: описуєте ідею, Claude пише код, можете його модифікувати й одразу ділитися посиланням без деплою. Claude бере на себе технічну частину – промпт-інжиніринг, обробку помилок, оркестрацію.

Поки що є обмеження – немає зовнішніх API-викликів, персистентного сховища, доступний тільки текстовий completion API. Але це цікавий крок до спрощення створення AI-додатків, особливо для тих, хто не хоче возитися з інфраструктурою та оплатою за чуже використання.

Функція доступна в бета-версії для всіх планів підписки.

Продираючись крізь баги застосунку ChatGPT, у якому відсутні деякі функції веб-сервісу, не можу не дивуватися, що у Claude якраз усе навпаки.

Anthropic дає змогу розміщувати AI-додатки в інтерфейсі Claude

The Information розповідає, що Apple протягом кількох років розглядала можливість запуску хмарного сервісу для розробників на базі власних чипів, що стало б прямим викликом Amazon, Microsoft і Google. Ідея полягала в тому, щоб здавати в оренду сервери на чіпах Apple, які завдяки високій енергоефективності дозволили б розробникам витрачати менше на хмарні послуги, особливо для AI-додатків.

Головний прихильник проєкту, хмарний керівник Майкл Ебботт, покинув компанію 2023 року, і неясно, чи продовжилися обговорення після першої половини 2024 року.

Apple вже тестує свої чіпи для серверної обробки транзакцій Apple Wallet і отримує поліпшену продуктивність у додатках Photos і Apple Music. Компанія витрачає близько 7 млрд дол. на рік на оренду чипів у Amazon і Google, в основному уникаючи дорогих покупок чипів Nvidia для навчання AI.

Проєкт отримав внутрішню назву ACDC (Apple chips in data centers) і включає Private Cloud Compute – систему для обробки складних AI-запитів на серверах Mac. Команда Siri першою випробувала сервери на чіпах Mac для функцій перетворення тексту на мову, отримавши поліпшення точності та зниження витрат порівняно із серверами Intel.

А ви теж згадали про MacOS X Server? У мене досі лежить у коморі Mac mini server. Хоча куди подівся блок живлення, не знаю. З іншого боку, ферми Mac mini для розробників – не таке вже й рідкісне явище. Скоріше практично обов'язкове для компаній, що розробляють застосунки в екосистемі.

Apple хоче збудувати хмару на власних процесорах?