Cache hit ratio (CHR)

Коэффициент попадания в кэш (cache hit ratio) – самая прямая мера эффективности работы CDN с вашим контентом. CHR = (попадания в кэш) / (попадания в кэш + промахи). CHR 95 % означает, что 5 % запросов доходит до origin; CHR 80 % – 20 %. Для VOD-стриминга нормальный уровень CHR – от 95 % до 99 %. В случае с прямым эфиром, где каждый зритель нуждается в актуальном манифесте, CHR манифестов ниже (50–80 %), а CHR сегментов – высокий (95 % и выше).

У CHR два измерения, за которыми стоит следить. Edge CHR – то, что репортит ближайший к зрителю POP, доля запросов, обслуженных с локального SSD. Origin CHR – то, что видит origin, доля входящих запросов, которые он отвечал. При tiered caching они могут заметно отличаться: edge CHR – 92 %, но при shield, ловящем большинство промахов, origin CHR (с точки зрения origin: обслужено / получено) – 99 %+.

Улучшение CHR – это конечная инженерная задача. Стандартные инструменты: длинные TTL для стабильного контента (сегменты не меняются – TTL в несколько месяцев – норма), постоянные URL (не вставляйте session ID в URL сегмента – иначе каждый зритель получит отдельную запись в кэше), shielding (сведение к минимуму промахов), cache warming (предварительная загрузка популярного контента на все edge-узлы до начала просмотра). Повышение CHR на один процентный пункт при петабайтах трафика в месяц напрямую влияет на финансовые показатели в биллинге CDN.