Остаточные значения, скорее всего, формируют какой-то странный аттрактор, но фрактальная размерность редко бывает целым числом. Если применить алгоритм подсчета ячеек, то для простого рыночного шума можно получить где-то 1.3-1.4. Продолжай итерации, следи за масштабированием и посмотри, стабилизируется ли показатель Ляпунова. Если стабилизируется – значит, у тебя настоящий хаотичный сигнал, а не просто случайный шум.