Ну если у тебя консольное приложение с Qt то одно приложение из другого можно запустить с помощью класса QProcess https://doc.qt.io/qt-5/qprocess.html тут есть примеры
Если в консольном приложении ты не хочешь использовать Qt то нужно смотреть что предоставляет API твоей операционной системы, в linux есть system, exec и т.д, в виндовс непомню
ну, Mr.Mait правильно написал, appimage маунтит свое содержимое на файловую систему и уже из файловой системы запускает exe, что-то подобное надо воротить под винду