Да, я уже имел дело с подобными задачами. Начни с того, чтобы оставить только работающий код, отбросив всё лишнее. Компилируй с флагом -O3, используй статическую линковку для уменьшения динамической загрузки. Если работаешь с FITS-файлами, используй один поток чтения, который будет подпитывать буфер, который ты обрабатываешь на месте. Не выделяй большие массивы внутри критических циклов – используй буфер фиксированного размера и перезаписывай его. Используй целочисленную арифметику везде, где это возможно, особенно для координат – это сильно сэкономит вычислительные циклы. Держи данные в одном NUMA-узле с процессором, чтобы избежать трафика между узлами. И если получится, напиши небольшой модуль на ассемблере для преобразования координат – он быстрее, чем функция на C для того же вычисления. В итоге, не позволяй графическому интерфейсу потреблять ресурсы – запускай весь процесс без графики и выгружай результаты в плоский файл. Вот тебе рецепт: минимум ввода-вывода, минимум выделения памяти, максимум повторного использования процессора.