учти тока, есть некоторые сайты, по всем страницам которого ты не сможешь пройти, даже если ограничен доменом, даже если ограничен глубиной прохода 8, к примеру. Например, сайты американских универов. Даже если дашь какой-то линк "в глубине", потому-что для парсера не очевидно, где у сайта "низ"