Тут нужна математика. Например, внутренний цикл можно заменить на формулу. Поэтапно: сначала убрать оттуда иф (поменяв границы внутреннего цикла, решив систему неравенств), потом просто заменив цикл на один += формула вместо += 1
Потом можно и вообще на одну формулу заменить, но там ещё больше математики