Весной 1512 года русские войска отразили поход пяти сыновей крымского хана Менгли-Гирея на южные города Белев, Одоев, Козельск и Алексин, а затем и на Рязань. Было со всей достоверностью установлено, что крымчаков «наводил» на московские земли король Сигизмунд I.
Осенью 1512 года польский король посадил вдову брата Александра — Елену Ивановну в темницу, где она вскоре умерла. Василий III Иванович в гневе послал Сигизмунду I «разметные грамоты» с объявлением войны. Великий московский князь вместе с братьями во главе русского войска осадил город Смоленск. Взять же первоклассную крепость того времени не удалось из-за недостатка осадной артиллерии и действий конных крымских отрядов в тылу.
Летом 1513 года начался второй поход на Смоленск. Теперь удалось сильными «сторожами» — заставами — обезопасить себя от нападений со стороны Крымского ханства. В русском войске насчитывалось около двух тысяч пищалей-«ручниц». Больше месяца длились безуспешные попытки овладеть крепостью на берегах Днепра. Сильный литовский гарнизон отразил все приступы. В ходе одного из них погибло две тысячи московских ратников. Был отбит и ночной штурм.
Шесть недель продолжалась осада крепости. Видя тщетность военных усилий, великий князь Василий III приказал войскам отойти от Смоленска. Но уже в феврале 1514 года принимается решение о третьем походе на Смоленскую крепость. Однако осуществить его удалось только в конце лета того года.
Русские полки стояли в готовности отразить нападение конной армии крымского хана в городе Туле и на рубежах по рекам Оке и Угре. Однако крымчаки так и не решились прорываться к Москве через этот рубеж, памятуя о попытке сделать это ханом Ахматом в столь недалекое время.
Польский король и литовский великий князь тоже деятельно готовился к борьбе за Смоленск и Смоленщину. Сейм принимает решение о найме семи тысяч польских пехотинцев — жолнеров. Вводится поголовный налог для покрытия государственных военных расходов: грош — с крестьянина, два гроша — со знатных людей и злотый — с урядника.
Король Сигизмунд I очень надеялся на неприступность смоленской твердыни. Он писал: «Крепость мощна благодаря самой реке, болотам, а также благодаря человеческому искусству, благодаря бойницам из дубовых брусьев, уложенных срубом в виде четырехугольников, набитых глиной изнутри и снаружи; окружена она рвом и столь высоким валом, что едва видны верхушки зданий, а самые укрепления не могут быть разбиты ни выстрелами из орудий, ни таранами, да и не подрыться под них, не разрушить или сжечь при помощи мин, огня или серы».
В третьем Смоленском походе общие силы русской рати насчитывали около 80 тысяч человек. Польские хронисты называют количество орудий, из которых обстреливалась крепость — от 140 и до 300! Последняя цифра — явное преувеличение королевских летописцев, которые в своих писаниях хоть как-то пытались приумалить победу русского оружия.
«Великие пушки» стреляли ядрами, которые весили по нескольку пудов. От Москвы до Смоленска их тянули на полозьях каждую по несколько сотен «посошных людей». Для провоза тяжелых осадных орудий укреплялись мосты через большие и малые реки, строились новые, «исправлялись» дороги.
29 июля 1514 года смоленскую крепость начали обстреливать из «большого наряда» — тяжелой артиллерии. То там то здесь стали рушиться участки крепостной стены. Чтобы мешать осажденным их восстанавливать, образовавшиеся бреши день и ночь обстреливали русские «пищальники». В осажденном городе начались многочисленные пожары. Уже на второй день бомбардировки польско-литовский смоленский гарнизон выкинул белый флаг.
В походный шатер великого московского князя Василия III Ивановича явились смоленский наместник Иван Сологуб и местный епископ Варсанофий. Они просили перемирия на один день, в чем им было отказано. Артиллерийский обстрел Смоленска возобновился, сея смерть и разрушения.
Тогда «мещане и черные люди» русского города, не желавшие сражаться с «московитами», заставили начальников смоленского гарнизона согласиться на безоговорочную сдачу крепости. 31-го числа королевский гарнизон капитулировал, не желая больше испытывать судьбу, поскольку назревало восстание горожан.
Государь «всея Руси» был необыкновенно милостив к побежденным. Шляхтичи и жолнеры, которые не пожелали перейти на московскую службу, отпускались домой. Желающим служить великому князю московскому выдавали по два рубля и по куску английского сукна в виде жалованья. Им же оставлялись прежние поместья на смоленской земле. Городу разрешили управляться «по старине», население Смоленска освобождалось и от некоторых государственных налогов.
Большой воевода князь Даниил Щеня привел смолян к присяге. Но на взятии Смоленской крепости война не заканчивалась. Государь «всея Руси» послал русские рати к Минску и Борисову, приказав «воевать» их. В самой Смоленской крепости началось восстановление разрушенных укреплений.
Василий III Иванович, обещавший князю Михаилу Глинскому сделать город Смоленск его вотчиной, не выполнил данного обещания. Глинский решил тогда изменить московскому великому князю и с отрядом своих воинов двинулся в Оршу, где находилась ставка польского короля. Попытка измены не удалась — выданный слугой князь был схвачен в пути, закован в кандалы и отправлен в Москву.