| 0 |
|
В сегодняшних компьютерах, для экономии времени и энергии, микропроцессоры оснащаются небольшим объемом собственной быстродействующей памяти, называемой кэшем. Управление кэш-памятью требует довольно простых алгоритмов, которые могут быть реализованы в чипах аппаратно.
Однако, с увеличением количества процессорных ядер, задача управления кэшем существенно усложняется. Адъюнкт-профессор MIT Дэниел Санчес (Daniel Sanchez) полагает, что пришло время перенести эти функции на программное обеспечение. На состоявшейся на прошлой неделе международной конференции по параллельным архитектурам и техникам компиляции, Санчес и его студент Натан Бекман (Nathan Beckmann) представили систему под названием Jigsaw, которая производит мониторинг вычислений, производимых многоядерным чипом, и в соответствии с этим управляет кэш-памятью.
В экспериментах, имитирующих выполнение сотен приложений на 16- и 64-ядерных чипах, Jigsaw оказалась способна увеличивать быстродействие в среднем на 18% (в отдельных случаях, более чем вдвое). При этом экономия потребления электроэнергии достигала 72%.
Санчес считает, что преимущества Jigsaw будут становиться только более очевидными с ростом количества процессорных ядер.
Во многих таких процессорах каждое ядро имеет небольшой частный кэш, но есть также кэш последнего уровня, коллективно используемый всеми ядрами. Физически, кэш последнего уровня разделен на блоки памяти, распределенные по всему чипу. Для каждого ядра доступ к ближайшему блоку занимает меньше времени и расходует меньше энергии, чем обращение к блокам, расположенным дальше. Но, из-за того, что кэш последнего уровня открыт для общего доступа, данные в его блоки в большинстве чипов направляются произвольным образом.
Jigsaw отслеживает данные, наиболее часто используемые определенными ядрами и, «на лету» рассчитывает максимально эффективное их распределение по блокам памяти. Так, данные, эксклюзивно используемые одним ядром, записываются в ближние к нему блоки кэша, а информация, запрашиваемая всеми ядрами, располагается вблизи центра чипа, минимизируя среднее расстояние прохождения.
Кроме того, система Jigsaw варьирует количество кэш-памяти, отводимой под различные типы данных, основываясь на частоте их использования. В принципе, такая оптимизация требует больших затрат времени на расчеты, однако Санчес и Бекман разработали алгоритм, обеспечивающий вполне хорошую аппроксимацию, и работающий эффективно даже при значительном увеличении количества ядер и типов данных.
Оптимизация Jigsaw основана на прогнозировании ближайших действий процессора. Обычно, длительность такого прогноза составляет около 20 мс, однако экспериментальные данные указывают на существование в выполнении программ фаз стабильности, длящихся сотни миллисекунд или даже секунды.
В дальнейшем, ученые намерены исследовать совместное проектирование оборудования и ПО как средство дальнейшего увеличения эффективности, и возможность участия самих программистов в классификации данных соответственно доступу к ним — это позволило бы Jigsaw не полагаться исключительно на наблюдение при оценке распределения памяти.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
