Tiered caching

Tiered caching выстраивает CDN иерархией: зритель попадает на edge-POP, edge при cache miss спрашивает регионального родителя, региональный родитель спрашивает origin только если тоже промахнулся. Каждый tier служит кешем для нижнего, мультиплицируя эффективный hit ratio, который видит origin. Cloudflare назвал это «Tiered Cache» как продукт, но базовый паттерн – shield, fan-in кеш, parent POP – встречается под разными именами в каждом крупном CDN.

Операционно многоуровневое кэширование – это топологическое решение. Cloudflare предлагает «Smart Tiered Caching», автоматически выбирающий родительский POP с минимальной задержкой до origin; Origin Shield в CloudFront требует от оператора указать конкретный регион; tiered distribution в Akamai настраивается для каждого поставщика контента. Многоуровневые конфигурации (edge → parent → super-parent → origin) сильнее снижают нагрузку на origin при очень масштабных событиях, но увеличивают задержку в путях при промахах кэша.

Ключевой компромисс – между свежестью и эффективностью. Глубокая иерархия увеличивает количество мест, где требуется инвалидация при изменении манифеста (что происходит каждый segment-duration в live-трансляции). Большинство CDN решают эту проблему с помощью версионированных URL (у каждого нового сегмента – уникальный адрес, поэтому инвалидация не требуется) и коротких TTL для манифестов (1–2 секунды). При правильной реализации tiered caching обеспечивает offload с оригинала на уровне 95 % и выше даже при live-трансляциях с миллионами одновременных зрителей.