Ой, забыл, счастье точно не наступает, потому что график выглядит обычно не так, а примерно как на картинке. Ещё он не особо воспроизводим, но с этим поменьше проблем.
Стоит уметь считать запросы к диску, если кеш предотвращает их. Возможное решение: отключать кеши и смотреть, сколько ваша система сжирает $СЧАСТЬЯ_ПОЛЬЗОВАТЕЛЕЙ/$ДЕНЕГ/$ВАШИХ_НЕРВОВ. Метрика чуть более стабильная.
Так как ресайзить кеш тогда? Я видел
* На глазок
* С помощью машинного обучения: пусть график мл выучит. Работает кстати не так плохо как кажется
* Удалить кеш и забыть как страшный сон
Не забывайте добавлять метрики:
* hit/miss/cache size
* Сколько в среднем живут ключи и значения, их распределение.
* В кешах есть такая шутка, что оптимальный кеш это тот, который вытесняет элемент, который позже всего в будущем будет запрошен. Такой минимум называют Belady Min. Его нельзя заимплеменить, потому что он должен знать будущее. Тем не менее, посчитать метрику и сравнивать LRU/LARC/другие политики можно по историческим данным.
Стоит уметь считать запросы к диску, если кеш предотвращает их. Возможное решение: отключать кеши и смотреть, сколько ваша система сжирает $СЧАСТЬЯ_ПОЛЬЗОВАТЕЛЕЙ/$ДЕНЕГ/$ВАШИХ_НЕРВОВ. Метрика чуть более стабильная.
Так как ресайзить кеш тогда? Я видел
* На глазок
* С помощью машинного обучения: пусть график мл выучит. Работает кстати не так плохо как кажется
* Удалить кеш и забыть как страшный сон
Не забывайте добавлять метрики:
* hit/miss/cache size
* Сколько в среднем живут ключи и значения, их распределение.
* В кешах есть такая шутка, что оптимальный кеш это тот, который вытесняет элемент, который позже всего в будущем будет запрошен. Такой минимум называют Belady Min. Его нельзя заимплеменить, потому что он должен знать будущее. Тем не менее, посчитать метрику и сравнивать LRU/LARC/другие политики можно по историческим данным.