Кинь вычисления в фрагментный шейдер, пусть GPU всё сделает. Держи цикл коротким, используй метод с масштабированием по логарифму, чтобы увеличить количество итераций, не взрывая счётчик пикселей. Потом подсунь текстуру поиска или небольшую карту деталей, чтобы вернуть высокочастотную информацию в тех местах, где фрактал замедляется. Всё инлайни, избегай ветвлений – и получишь плавкий, реальный рендеринг, который при этом ощущается глубоким.