Свідчення Суцкевера щодо звільнення Сема Альтмана з OpenAI

Цікаві деталі спливли під час свідчень Іллі Суцкевера про події 2023 року, пов'язані зі звільненням Сема Альтмана з OpenAI. Матеріал TheInformation зосередився на гучній темі – виявляється, на той момент обговорювалося злиття з Anthropic. Втім, ось вам повний виклад свідчень, які Ілля дав в рамках позову Ілона Маска до Альтмана. Процес тривав майже 10 годин в офісі юридичної компанії Cooley в Сан-Франциско в присутності представників всіх сторін конфлікту: адвокати позивачів з команди Ілона Маска, захисники OpenAI, представники Microsoft і власні юристи Суцкевера.

У центрі уваги опинився меморандум на п'ятдесят дві сторінки, який Суцкевер склав восени 2023 року для незалежних директорів правління OpenAI. Цей документ починався з жорсткого звинувачення: Сем демонструє послідовну модель брехні, підриву своїх керівників і нацьковування керівників один проти одного. Суцкевер підтвердив, що це була його думка на той момент, і він направив документ тільки трьом незалежним директорам – Адаму Д'Анджело, Хелен Тонер і Таші Маколі.

Суцкевер пояснив, що використовував електронну пошту що зникає для відправлення меморандуму, оскільки побоювався витоку. На питання, чому він не надіслав документ всьому правлінню, включаючи самого Альтмана, Суцкевер відповів прямо: він відчував, що якщо Альтман дізнається про ці обговорення, то просто знайде спосіб змусити їх зникнути. Адам Д'Анджело попросив його підготувати документ, попередньо запитавши, чи є у Суцкевера скріншоти на підтвердження його побоювань щодо поведінки Альтмана.

Меморандум містив безліч конкретних звинувачень. Одне з них стосувалося історії Альтмана в Y Combinator. Згідно з документом, Сема виштовхнули з YC за схожу поведінку – він створював хаос, починав безліч нових проєктів, нацьковував людей один проти одного і погано керував компанією. Однак при детальному розпитуванні з'ясувалося, що ця інформація надійшла до Суцкевера не безпосередньо: її передала Міра Мураті з посиланням на розмову з Бредом Лайткепом. Суцкевер визнав, що сам не розмовляв з Лайткепом, щоб перевірити ці відомості.

Аналогічна ситуація склалася і з твердженнями про Грега Брокмана. У меморандумі йшлося про те, що Грег був по суті звільнений зі Stripe. Джерелом знову була Міра Мураті. Суцкевер підтвердив, що ніколи не звертався до самого Брокмана, щоб перевірити цю інформацію. На питання, чому він не зробив цього, Суцкевер дав просту відповідь: йому це не спало на думку. Він повністю вірив інформації, яку надавала йому Міра.

Меморандум містив цілий розділ під назвою «Нацьковування людей один проти одного». Там наводилися приклади нібито маніпулятивної поведінки Альтмана: Даніела проти Міри, маючи на увазі Даніелу Амодей і Міру Мураті, і Даріо проти Грега та Іллі, де йшлося про Даріо Амодей. Суцкевер критикував Альтмана за те, що той не зайняв тверду позицію, коли Даріо хотів очолити всі дослідження в OpenAI та домогтися звільнення Грега. При цьому Суцкевер визнав, що не має точної інформації про умови Даріо, але його загальне враження було таким, що вони були несправедливими й Сем повинен був відкинути їх відразу.

Ще один епізод стосувався історії з GPT-4 Turbo і порадою щодо безпеки розгортання. Меморандум звинувачував Альтмана у брехні Мірі щодо думки Джейсона – судячи з усього, Джейсона Квона, який на той момент, можливо, обіймав посаду генерального юрисконсульта. Суцкевер не говорив з Квоном про цю ситуацію. Щобільше, він визнав, що заднім числом усвідомив критичну важливість інформації з перших рук для таких питань. На питання, чи було помилкою покладатися на інформацію з других рук, Суцкевер відповів філософськи: інформація з других рук може бути дуже корисною, але вона є запрошенням для подальшого розслідування.

У меморандумі Суцкевер пропонував директорам поговорити з певними людьми для перевірки інформації, включаючи Боба МакГрю і Ніка Райдера. Однак сам він не знає, чи дотрималися директори цих рекомендацій, і не обговорював з ними продовження цих пропозицій. Він також не розмовляв з Діаною Юн або іншими свідками, згаданими в документі. Більшість скріншотів та інформації для меморандуму Суцкевер отримав від Міри Мураті, включаючи скріншоти текстових повідомлень між Грегом і Семом і навіть службову оцінку Міри щодо Сема.

Потім розмова перейшла до подій листопада 2023 року. Суцкевер визнав, що вважав звільнення правильним кроком. Адвокат позивачів процитував статтю з Wall Street Journal, де йшлося про те, що Суцкевер чекав моменту, коли динаміка правління дозволить замінити Альтмана на посаді генерального директора. Суцкевер підтвердив правильність цього твердження. Він пояснив, що чекав, поки більшість правління не буде очевидно дружньою до Сема. Це сталося після серії швидких відходів з правління з різних причин.

На пряме запитання, як довго він розглядав можливість звільнення Альтмана, Суцкевер відповів: принаймні рік. Він уточнив, що слово «планування» було б неправильним, тому що до певного моменту це не здавалося здійсненним. Раніше це було неможливо, тому він не планував. Але він розглядав цю можливість щонайменше протягом року до подій листопада.

Події після звільнення Альтмана розвивалися стрімко. Суцкевер визнав, що був вражений реакцією співробітників OpenAI. Та ж стаття в Wall Street Journal стверджувала, що він очікував, що співробітники зрадіють. Суцкевер уточнив: він не очікував, що вони зрадіють, але й не очікував, що вони матимуть сильні почуття в будь-яку сторону. Це було його переконання на той момент.

Одним з найдраматичніших моментів свідчень стало обговорення пропозиції про злиття з Anthropic. У суботу після звільнення Альтмана відбувся дзвінок правління, на якому Хелен Тонер розповіла про контакт з Anthropic. Суцкевер не був упевнений, хто ініціював контакт – Хелен звернулася до Anthropic або Anthropic зв'язалися з Хелен. Але суть пропозиції була зрозуміла: Anthropic хотіла об'єднатися з OpenAI та взяти на себе її керівництво.

Потім відбувся окремий дзвінок з керівництвом Anthropic. На ньому були присутні Даріо Амодеї, Даніела Амодеї і як мінімум ще одна людина, яку Суцкевер не запам'ятав. Anthropic висловила ентузіазм з приводу злиття, але також згадала про практичні труднощі, які у них виникнуть. Суцкевер був вкрай незадоволений цією пропозицією. На питання, чому, він дав коротку відповідь: він просто не хотів цього. Інші члени правління були набагато більш прихильними, і Суцкевер згадав, що Хелен Тонер була найбільш зацікавлена в злитті. Пропозиція не була реалізована через ті самі практичні перешкоди, про які говорила Anthropic, але обговорення були вкрай короткими.

Контекст цієї пропозиції набував додаткових вимірів при розгляді зв'язків Хелен Тонер. Вона була пов'язана з Open Philanthropy, яка, своєю чергою, пов'язана з Холденом Карнофскі. Холден одружений з Даніелою Амодеї, сестрою Даріо Амодеї, які обидва працюють в Anthropic. Суцкевер підтвердив знання про ці зв'язки, хоча зазначив, що його знання було розпливчастим.

Ще одна історія стосувалася статті Хелен Тонер, опублікованої в жовтні 2023 року. Суцкевер згадав, що вона критикувала OpenAI та хвалила Anthropic. Він не пам'ятав конкретного змісту критики, але запам'ятав, що стаття хвалила Anthropic. Його реакцією було: він вважав статтю дивною. Він вважав дивним, що вона взагалі це зробила. На питання, чи вважав він це доречним для члена правління OpenAI, Суцкевер відповів, що вважав це не дуже далеким від очевидно недоречного. Він обговорював із Семом можливість попросити Гелен покинути правління, хоча не пам'ятав деталей цієї розмови.

Пізніше того ж тижня правління погодилося піти у відставку і поновити Сема Альтмана. Адвокат OpenAI запитала Суцкевера про оцінку процесу, що передував звільненню. Суцкевер сказав одну річ, яку може стверджувати однозначно: процес був поспішним. Причиною поспіху було те, що правління було недосвідченим у питаннях управління радою директорів.

На зустрічі з членами правління та виконавчою командою після звільнення Альтмана керівники заявили, що якщо Сем не повернеться, OpenAI буде знищена, і це несумісно з місією компанії. Хелен Тонер відповіла, що це сумісно, причому сказала це навіть більш прямо, ніж передав сам Суцкевер. На питання про його реакцію на цю заяву, Суцкевер сказав, що не пам'ятає своєї реакції в той момент. Пізніше його запитали, чи вважав він, що знищення компанії було б сумісно з місією. Суцкевер відповів, що може уявити гіпотетичні екстремальні обставини, в яких відповідь була б позитивною, але в той конкретний момент часу відповідь для нього була однозначно негативною.

Після цих подій було сформовано спеціальний комітет правління для розслідування. Його очолили Брет Тейлор і Ларрі Саммерс, які найняли юридичну фірму WilmerHale. Вони проводили інтерв'ю, включаючи бесіду з самим Суцкевером. На питання, чи є у нього підстави сумніватися в незалежності Тейлора і Саммерса, Суцкевер відповів негативно. Однак на питання про цілісність розслідування він зауважив, що на той момент був занадто відсторонений від цих процедур, щоб давати оцінку.

Суцкевер покинув OpenAI в травні 2024 року, хоча точної дати не пам'ятав. Причиною відходу стало велике нове бачення, яке здавалося більш відповідним для нової компанії. У 2024 році він оголосив про створення Safe Superintelligence. Мета нової компанії – займатися новим і іншим видом досліджень. У нього з'явилася нова ідея, як робити речі, і він хотів спробувати їх реалізувати.

Значна частина допиту була присвячена фінансовим питанням. Суцкевер підтвердив, що на момент відходу з OpenAI у нього була частка в капіталі компанії. Ця частка у нього зберігається досі, і її вартість збільшилася з моменту його відходу. Однак коли адвокат позивачів спробував дізнатися конкретну вартість цієї частки, адвокат Суцкевера дав вказівку не відповідати на питання про суму, пославшись на право клієнта на конфіденційність фінансової інформації. Суцкевер міг підтвердити наявність фінансової зацікавленості, але не міг її кількісно визначити.

Це призвело до напруженого обміну репліками між адвокатами. Представник позивачів наполягав, що питання про фінансову зацікавленість свідка в відповідачі у справі, де відповідач звинувачується в багатомільйонних позовах, безсумнівно є релевантним і стосується питань інтересу та упередженості. Адвокат Суцкевера зберіг свою позицію, дозволивши підтвердити наявність інтересу, але не його розмір.

Питання про оплату юридичних послуг також викликало інтерес. Суцкевер сказав, що, ймовірно, його юридичні послуги оплачує OpenAI, тому що не знає, хто ще це міг би робити. Він не отримував рахунків за юридичну допомогу. Його запитали, як він прийшов до цих адвокатів. Спочатку адвокат дав вказівку не відповідати, але потім дозволив відповісти конкретно на питання про наймання у зв'язку з цією судовою справою. Суцкевер розповів, що його спогади не зовсім точні, але він вважає, що почав працювати з іншим адвокатом у фірмі Willkie, а потім його тодішня подруга знайшла Сімону Агнолуччі, і він сам зв'язався з нею.

Суцкевер підтвердив, що ніколи не обговорював цю судову справу з кимось в OpenAI та не обговорював свої свідчення з кимось, крім своїх адвокатів. Він востаннє розмовляв із Семом Альтманом близько десяти місяців або року тому – приблизно в січні 2025 року. З Грегом Брокманом він розмовляв востаннє близько року з чвертю тому. Він ніколи не обговорював судову справу ні з Альтманом, ні з Брокманом.

Під час допиту з'ясувалося, що існує ще один документ – меморандум про Грега Брокмана, аналогічний тому, що був складений про Альтмана. Суцкевер підтвердив, що склав такий документ і надіслав його правлінню. На питання, чи існує версія цього документа десь у будь-якій формі, його адвокат заперечила і дала вказівку не відповідати щодо документів, які він міг надати своїм власним адвокатам. Суцкевер сказав, що знає, що його адвокати мають копію, але потім отримав вказівку не відповідати на питання про те, що він дізнався від своїх адвокатів про те, хто ще може мати копію.

Це призвело до ще одного напруженого обміну. Адвокат позивачів наполягав, що дізнався про існування меморандуму про Брокмана вперше під час цих свідчень, що документ не був наданий, хоча на нього є посилання в загальнодоступних джерелах і в одному з використаних експонатів. Адвокат Суцкевера заперечувала, що документ був згаданий в експонаті, який використовували самі позивачі, що вони знали про його існування, що були широкі обговорення про те, які документи будуть і не будуть надані, і що меморандум ніколи не запитувався і не підпадає під запити про надання документів. Вона наполягала, що якщо вони хотіли меморандум, вони повинні були запросити його до цього дня. Представник позивачів не погодився і заявив, що вони мають намір звернутися до суду з цього питання. Адвокат Суцкевера зробила заяву для протоколу, що вони не згодні викликати свідка повторно.

Наприкінці свідчень, вже близько восьмої вечора, адвокат OpenAI поставила філософське запитання про те, хто, на думку Суцкевера, повинен керувати штучним загальним інтелектом. Суцкевер дав розлогу відповідь. Його поточна думка полягає в тому, що за дуже рідкісними винятками людина, яка буде керувати, швидше за все, буде дуже вправною у поводженні з владою. І це буде дуже схоже на вибір між різними політиками. Він вважає, що дуже важко для когось, кого можна назвати святим, домогтися цього. Він думає, що це варто спроби, але це буде як вибір між різними політиками – хто буде главою держави.

По завершенні допиту адвокат позивачів заявив для протоколу, що вважає свідчення незавершеними через ненадані документи, включаючи меморандум про Брокмана, і через відмову відповідати на питання про фінансові інтереси свідка. Адвокат OpenAI зробила окрему заяву про те, що багато експонатів, показаних свідку, були попередньо виділені маркером, хоча захисту передавалися невиділені копії, і що жодне виділення в документах не є оригінальним для цих документів. Вона зарезервувала всі права з цього приводу, і до цього заперечення приєднався адвокат Microsoft.

Свідчення Суцкевера щодо звільнення Сема Альтмана з OpenAI

Стратегія охолодження ЦОД для епохи AI