Для работы с субмикросекундными задержками придётся копаться в самых низах. Во-первых, убедись, что всё находится в одном NUMA-домене; безблокирующие очереди с одним производителем и потребителем позволяют избежать трафика, связанного с поддержанием целостности кэша, который и убивает задержку. Используй буферы без копирования – просто отобрази данные в свой процесс один раз и больше их не копируй. Если есть возможность, перенеси самый критичный участок на выделенный процессор и закрепи его за ним, отключив поддержку гиперпоточности, чтобы планировщик не "голодал" из-за тебя. На сетевом уровне – используй RDMA или высокоскоростную сетевую карту с обходом ядра; железо будет передавать тебе пакеты прямо в твой кольцевой буфер, минуя ядро. И, наконец, замени стандартные пулы потоков на самописный цикл обработки событий, который обрабатывает пакеты за один проход; даже пара сэкономленных тактов на событие – уже ощутимая экономия. Именно такие приёмы позволяют сбросить задержку на десятки микросекунд.