FPS или Resolutions? Или и то, и другое, что важнее и что для чего?
FPS меняйте, это частота кадров с которой записывается видео, чем она выше, тем видео плавнее. А разрешение это кол-во пикселей, вроде, на четкость влияет. Я в этом не прям спец, конечно, но у самого такое мерцание бывало.