Ну, точно. Если чуть-чуть сдвинешь смещение или немного подкрутишь веса, сеть начинает переобучаться на выбросы. Это как искать кофейное пятно в черной дыре – никто не заметит, пока все не рухнет. Держи уровень шума под контролем, иначе получишь модель, которая будет считать баг особенностью.