Закон Хуанга или мистификация Мимса?

Не вызывает сомнений, что Nvidia, великая компания. Её значение для рынка графического ускорения искусственного интеллекта и машинного обучения (GPU AI) трудно переоценить: она фактически самостоятельно сформировала его за последние 10 лет и до сих пор не имеет в этой области серьёзных конкурентов.
 
Во многом всё это является и заслугой её главы, CEO Дженсена Хуанга (Jensen Huang). Повторюсь, у него достаточно реальных, признанных всеми достижений, чтобы не приписывать себе достижений мнимых. Этим успешно занимаются другие.

Речь идёт о получившем большой резонанс «законе Хуанга». Именно так, с лёгкой руки техно-колумниста Wall Street Journal Кристофера Мимса (Christopher Mims), был окрещён преемник почившего в бозе закона Мура.

Мимс пишет: «Закон Мура замедлился, и некоторые говорят, что с ним, по ходу, всё кончено. Но возник другой закон, потенциально не менее важный для вычислений в следующие полвека».

Аргументирует это своё заявление Мимс словами старшего вице-президента Nvidia по исследованиям, Билла Далли (Bill Dally): «С ноября 2012 года по май этого года производительность чипов Nvidia выросла в 317 раз для важного класса вычислений ИИ. Другими словами, в среднем производительность этих чипов ежегодно увеличивается более чем вдвое, по сравнению с чем закон Мура имеет бледный вид».

Что ж, убедительная аргументация, броское название – Мимс, без сомнения, профессионал пера и мастер сенсаций. Однако дадим слово и другим профессионалам, только из лагеря скептиков. В частности, Джоэлу Грушке (Joel Hruska) с ресурса ExtremeTech, считающему, что «закон Хуанга» это переобутый и извращенно трактуемый закон Мура.

Прежде всего, он напоминает, что закон Мура (в его оригинальной формулировке) отнюдь не умер, а продолжает благополучно соблюдаться. Количество транзисторов на чипе по-прежнему примерно удваивается каждые пару лет, как видно из приводимой иллюстрации. То, что нарушилось с 2004 г., это так называемое правило масштабирования Роберта Деннарда (Robert Dennard), который в 1974 году напрямую привязал увеличение плотности транзисторов к росту производительности.

Таким образом, «закон Хуанга»вытекает из закона Мура и демонстрирует восстановление действия масштабирования Деннарда для кремниевых чипов, специализирующихся на «важном классе вычислений ИИ».

Инженерам Nvidia действительно удаётся выжимать максимальную производительность из каждого нового техпроцесса, за счёт внедрения в него кучи дополнительных технологий, таких как FinFET, но делать это им становится всё труднее. Особенно, учитывая прогнозы TSMC, что дальнейшее уменьшение детализации после 5 нанометров уже не будет оказывать прежнего эффекта на рост производительности.

(кликнуть для увеличения)

В этом свете надевание Мимсом «закона Хуанга», как совы на глобус, на следующие полвека, выглядит самонадеянным. Тут нелишне вспомнить, что популяризировавший в 1975 году закон Мура профессор Калтеха Карвер Мид (Carver Mead) опирался на 16-летнюю статистику, а в целом этот закон уже соблюдается 61 год. «Закону Хуанга» сейчас максимум восемь (по мнению Грушки, не более 3-4 лет), а его перспективы уже выглядят довольно блёкло.

Если тенденция квадратичного роста производительности чипов Nvidia на рабочих нагрузках ИИ останется в силе ещё через 10 лет, тогда можно будет воздать должное прозорливости Мимса и ещё таким способом увековечить память бизнес-лидера и пионера индустрии ИИ. Но делать это сейчас всё же преждевременно.