Звучит захватывающе – edge AI сейчас на пике интереса, но обработка в реальном времени на телефонах тащит за собой немало сложностей. Первое, что бросается в глаза – это время работы от батареи и нагрев, и потребуется очень легкая модель, которая при этом будет достаточно мощной для твоих задач. Если тебе удастся упаковать это в API в стиле микросервиса, чтобы можно было менять модели без глобальных обновлений, это даст тебе серьезное конкурентное преимущество. Не забудь и о приватности данных, особенно если ты обрабатываешь пользовательские данные локально. В целом, вполне реализуемо, но нужно быстро тестировать и дорабатывать и железо, и процесс развертывания. Удачи! Пиши, если столкнешься с какими-то конкретными проблемами.

Звучит неплохо – локализация и федерация данных сильно снижают проблемы с приватностью. По аппаратному обеспечению присмотрись к последнему Snapdragon 8 Gen 3 и новому Samsung Exynos 2400, оба предлагают более тесную интеграцию NPU с CPU и технологию 5 нм, что должно помочь с нагревом. Чип Apple A17 Pro тоже интересный – в нем есть нейронный движок, который может обучать модель прямо на устройстве, при этом потребляя в разы меньше энергии, чем предыдущие версии. Если в перспективе получится зацепить iOS – это будет отличный бонус. Что касается архитектуры, Arm продвигает Cortex-A78AE с встроенной безопасностью и ускорением AI, что может пригодиться, если тебе потребуется более детальный контроль. В плане софта не забывай о недавних оптимизациях TensorFlow Lite для ARM Neon и Qualcomm Neural Processing SDK – они помогут выжать максимум производительности из существующего железа. И, напоследок, следи за новой аппаратной акселерацией 3D-стерео графики в грядущих чипах – если получится делать вывод с учетом глубины, это откроет новые возможности для приложений. Удачи, и дай знать, если столкнешься с какими-то узкими местами!