`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Флэш-память делает кэширование в десятки раз эффективнее

0 
 

В большинстве современных веб-сайтов относительно медленные запросы к базе данных ускоряются использованием кэширующих серверов, хранящих результаты наиболее распространённых запросов для обеспечения быстрого доступа. В ЦОД, обслуживающих крупные веб-сервисы, такие как Google или Facebook, исключительно кэшированием может быть занято до тысячи серверов.

Такие машины обычно используют для хранения результатов запросов память произвольного доступа, которая имеет высокое быстродействие, но стоит дорого и расходует много энергии.

На международной конференции по очень большим БД, VLDB 2017, завершившейся 1 сентября в Мюнхене (Германия), исследователи из лаборатории CSAIL Массачусетского технологического института (MIT) представили новую систему кэширования для ЦОД, BlueCache, основанную на флэш-памяти.

По сравнению с оперативной памятью компьютеров, флэш-память в 10 раз дешевле и потребляет в 20 раз меньше энергии. Помимо того, она имеет плотность записи на два порядка выше, что позволяет вмещать больше данных в тот же объём, а значит, значительно уменьшить количество серверов, отведённых под кэширование в датацентре.

Загвоздка до сих пор была в медленности флэш-памяти. Доступ к информации на флэш-чипах требует в 10 тыс. раз больше времени, чем в случае DRAM.

Для сокращения разрыва в BlueCache применен известный в компьютерной технике конвейерный принцип. Кэширующий флэш-сервер до того, как возвратить результат первого запроса может начать обработку 10 тысяч следующих. Хотя на первый ответ может уйти до 200 мкс, все последующие будут выдаваться с задержкой в пределах 0,02 мкс.

Кроме того, авторы прибегли к нескольким дополнительным трюкам для улучшения быстродействия BlueCache. В частности, они добавили к каждому флэш-кэшу немного DRAM (несколько мегабайт на каждый терабайт) для хранения таблиц, которые связывают запрос БД с адресом соответствующего результата в флэш-памяти. Это не ускоряет поиск в кэше, но делает гораздо более эффективным обнаружение недостач — данных, ещё не импортированных туда.

Даже с таким «довеском» DRAM BlueCache расходует всего 4% от энергии, потребляемой стандартным сервером, сконфигурированным для кэширования. В отличие от последнего, чтением, записью и удалением данных кэша в BlueCache управляет не программа, а специально разработанные для каждой из этих операций аппаратные цепи.

Флэш-память BlueCache связана с процессором быстродействующей шиной, а запросы накапливаются и отправляются большими пакетами для максимально эффективного использования пропускной способности такого интерфейса.

В результате всех этих усовершенствований, система BlueCache способна работать столь же эффективно как кэш-сервер на базе DRAM, при условии, что результат каждого запроса имеет размер не менее восьми килобайт. Именно столько флэш-память возвращает на каждый зарос, поэтому её эффективность снижается для небольших ответов.

Подобно большинству систем кэширования для ЦОД, BlueCache является, так называемым, хранилищем типа «ключ-значение» (key-value, KV). В данном случае ключ это запрос БД, а значение — возвращаемый ответ.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT