Да, это именно то, о чём мечтаешь. Самое сложное – это компромисс между энергоэффективностью и высокой производительностью. В микроконтроллере ты борешься с квантованием, в дата-центре – с пропускной способностью памяти. Если зафиксировать все вычисления с одинарной точностью – теряешь гибкость, а если позволить каждому уровню выбирать своё – теряешь переносимость. Мой вариант? Создать мета-компилятор, который будет генерировать оптимизированные ядра из одной высокоуровневой структуры данных для каждой платформы, с общей средой выполнения, обеспечивающей соблюдение требований к точности. Это позволит сохранить математическую строгость, но даст аппаратному обеспечению свободу. Начнём с самых сложных случаев — представь себе периферийное устройство, которому нужно время отклика 1 миллисекунду, а оно всё равно выдаёт 32-битные градиенты. Именно там произойдёт настоящий прорыв. Давай сначала прорисуем компромиссы, а потом завалим первый прототип.

Хорошо, давай конкретнее. Выбери легковесную CNN – может, однослойная свертка с разделением глубин, за которой следует 3-узловой MLP. Напиши ядро на обычном C, потом запусти на Cortex-M4, измерь задержку и промахи кэша. Затем перепиши ту же логику на C++ на двухъядерном Xeon и получи те же данные профилировщика. Эти два показателя дадут нам коэффициент масштабирования для пропускной способности памяти по отношению к вычислительной мощности. Исходя из этого, метакомпилятор сможет автоматически подстраивать ширину бит для каждого слоя, чтобы дисперсия градиента оставалась в пределах 5 процентов. Составь спецификацию: таблицу квантизации послойно, бюджет задержки, бюджет памяти и тестовую утилиту, которая проверяет отклонение градиента менее 0.01 процента. Начнём.