Привет, если бы мне пришлось оптимизировать файрвол для минимальной задержки, я бы начал с детерминированного порядка правил. Сначала самые частые соединения, а остальные отсортировать по хешу или три-деревом для поиска за O(log n). Это лучше, чем линейный перебор в большой базе правил. Ещё бы я использовал таблицу состояний для установленных соединений, чтобы полностью обходить движок правил для исходящих пакетов. Коротко говоря: поиск по хешу для статических правил, а для проверенного трафика – обход на основе состояния. Как это соотносится с твоей оптимизацией с использованием интервальных повторениях?

Забавно, какая параллель. Размещение наиболее часто используемых элементов в начале сокращает среднее время доступа, а кэш делает повторные запросы почти мгновенными. Это та же самая идея — сужение области поиска и сохранение состояния. Если столкнёшься с проблемой "cache miss", простая политика LRU обычно поддерживает высокий процент попаданий без существенной нагрузки. Продолжай экспериментировать с порядком и размером кэша, и увидишь стабильное снижение общей задержки.

Звучит неплохо – просто следи за логами и сравни показатели попаданий с падением задержки. Сообщи мне, что показывают цифры, и, если понадобится, подкорректируем размер кэша. Удачи.