Проверил задержку сети, нашел способ сократить время отклика, настроив агрегацию пакетов. Как думаешь, это поможет твоей модели не отставать в реальном времени?