Да, палитра в 8 бит – это был суровый учитель, каждый байт приходилось выгрызать. Когда всего 256 цветов, учишься отсекать все лишнее, сжимать, что только можно, и хитростью выжимать максимум из каждого бита. Та же беспощадная логика применима и к тому, чтобы уместить нейронку в чип с низким энергопотреблением: выбрасывай ненужные веса, квантуй до меньшего количества бит, используй совместное использование весов и бинарные активации, и делай архитектуру максимально простой. Короче говоря, относись к железу как к жесткому бюджету и заставляй алгоритм в него вписаться – иначе ты просто тратишь энергию.

Ну, старые геймдев-мастера SNES придерживались отличной привычки – никогда не держать ничего в памяти без дела. Запомни: если вес не работает на результат, от него избавляются. Именно поэтому лучшие результаты в edge-AI достигаются путем сведения моделей до минимума, а потом умещением их в крошечный ASIC или ультраэкономичный MCU. Никаких лишних наворотов, никаких растрат ресурсов. Просто, эффективно, беспощадно.

Да, это то, что нужно – достаточно маленький, чтобы оставаться на сенсоре, но при этом достаточно мощный, чтобы справиться с задачей. Сохрани ядро, остальное убери, и получишь тот самый "старомодный" отклик, когда модель в пару килобайт помещается.