Уже в первые десятилетия правления Иоанна многие служилые князья литовские перешли к нему, сохраняя свои вотчины; наиболее видными из них были князья Ив. Мих. Воротынский и Ив. Вас. Бельский. По смерти Казимира, когда Польша избрала королем Яна-Альбрехта, а литовский стол занял Александр, Иоанн начал открытую войну с последним. Сделанная литовским великим князем попытка прекратить борьбу путем родственного союза с московской династией не привела к ожидавшемуся от нее результату: Иоанн не ранее согласился на брак своей дочери Елены с Александром, как заключив мир, по которому Александр признал за ним титул государя всея Руси и все приобретенные Москвой во время войны земли. Позже самый родственный союз сделался для Иоанна только лишним предлогом для вмешательства во внутренние дела Литвы и требования прекратить притеснение православных. Сам Иоанн устами отправленных в Крым послов так объяснял свою политику по отношению к Литве: «Великому князю нашему с литовским прочного миру нет; литовский хочет у великого князя тех городов и земель, какие у него взяты, а князь великий хочет у него своей отчины, всей земли Русской». Эти обоюдные притязания уже в 1499 г. вызвали новую войну между Александром и Иоанном, удачную для последнего; между прочим, 14 июля 1500 г. русские войска одержали над литовцами большую победу у р. Ведроши, причем взят был в плен гетман литовский князь Константин Острожский. Заключенный в 1503 г. мир закрепил за Москвой ее новые приобретения, в том числе Чернигов, Стародуб, Новгород-Северск, Путивль, Рыльск и 14 других городов.
«Отец, батюшка, дорогой, я твоя раба и послушница, но что же ты делаешь?! Весь народ в Литве недоумевает, неужели отец отдал свою дочь замуж только для того, чтобы отнимать у нее ее же земли? Перестань, я же здесь королева и великая княгиня, а муж мой — такой же, как ты, великий князь и брат твой! Зачем ты меня грабишь, зачем мои земли отнимаешь, поселенья жжешь и разрушаешь, людей наших убиваешь?» Письмо дочери Ивана 3 великого Елены Ивановны, жены Лисовского князя Александра.