Кажется, типичная головная боль с рекурсией. Мемоизация может помочь, но всё равно упрёшься в лимит стека, если продолжать рекурсировать на больших подмассивах. Попробуй, может, хвостовую рекурсию в цикле или переходи на итеративный алгоритм быстрой сортировки для этих старых машин. Так ты не перегрузишь стек вызовов и не заставишь старый процессор 70-х работать на пределе.