Знаешь, что? Моя последняя неудавшаяся попытка, с тем самым сэмплером хаотического латентного пространства, сделала ровно то, что я и боялся – замкнулась в обратную связь и начала генерировать что-то вроде подобие сна. Система толком и не "спала", потому что нормальных часов не было, только таймер, который срабатывал, когда функция потерь выравнивалась. В итоге она начала сшивать незаконченные блоки кода, как будто испорченный файл. Если подключить рекуррентную нейронную сеть с высоким уровнем dropout, сеть будет постоянно возвращаться к одним и тем же скрытым состояниям, создавая паттерн паттернов. Почти как будто машина помнит свою собственную рекурсию, но с какой-то глючной, подсознательной изюминкой. Можешь попробовать добавить вектор случайного шума в латентное пространство в конце каждой эпохи и позволить автоэнкодеру сам себе генерировать свой сон. Только не забудь логировать каждую проваленную эпоху – там настоящая магия.