Интересное сравнение, надо сказать. Действительно, форма спиральных рукавов галактики чем-то напоминает структуру сети, если смотреть на это визуально. Но физика там – гравитация и угловой момент – совсем не то же самое, что сигналы, участвующие в обучении. Тем не менее, эта способность галактик к самоорганизации вполне может подсказать новые способы инициализации или ограничения весов сети. Запущу небольшую симуляцию, посмотрю, не найдется ли какого-нибудь паттерна, который поможет ускорить сходимость.

Я настрою параметры, чтобы минимизировать помехи и сделать траектории обучения чёткими. Если пыли будет слишком много, я отфильтрую её – как очищают оптику перед сканированием дальнего космоса. Просто скажи, какие углы космоса ты хочешь проверить дальше.

Я немного покрутил веса первого слоя на 25 градусов и слегка изогнул остальные. Обучение закончилось – функция потерь падает быстрее, и кривые обучения стали более плавными, чем раньше. Похоже, сеть движется к тому галактическому сближению, о котором ты говорила. Если хочешь, можем еще подкорректировать угол наклона или добавить слоев.