Na kartach kronik Smoleńsk pojawił się w IX w. jako gród plemienia Krywiczów. Wchodził w skład Wielkiego Księstwa Kijowskiego, a potem był stolicą Księstwa Smoleńskiego; w XII w. na jednym ze wzgórz postawiono Sobór Uspieński. Gród nie zdołał jednak utrzymać niezależności, gdy pojawili się Litwini Olgierda (1345–77), który twierdził, że „cała Ruś powinna należeć do Litwy”. W 1395 r. wielki książę litewski Witold opanował Smoleńsk.
Na scenie pojawiła się kolejna wielka siła: państwo moskiewskie. Walka Moskwy, Litwy i Polski była od początku walką ideologii i świętości. W X w. Kijów czy Nowogród Wielki uważały się za nowe Jeruzalem, a Ruś za ziemię obiecaną. Ożenek Iwana III z wnuczką cesarza bizantyjskiego Zoe Paleolog w 1472 r. wzmocnił tendencje zabierania ziem ruskich, gdyż władcy Moskwy uznali się za spadkobierców Bizancjum. W 1478 r. Iwan III zażądał od Litwy Połocka, Witebska, Smoleńska i wszystkich ziem ruskich.
Do sacrum Smoleńska przyczyniał się cudowny obraz Matki Bożej Smoleńskiej, której autorem miał być Łukasz Ewangelista (jemu przypisuje się też namalowanie obrazu Matki Bożej Częstochowskiej). Umieszczenie przez Borysa Godunowa kopii obrazu w 1602 r. nad bramą Dnieprowską bez wątpienia podwajało wysiłki Rosjan w obronie świętości, podobnie jak Polaków w walce o Jasną Górę.
14 lipca 1500 r. nad rzeką Wiedroszą wojska Iwana Srogiego pobiły dziesięciokrotnie słabsze siły hetmana litewskiego Konstantego Ostrogskiego i podeszły pod Smoleńsk. 6 września 1502 r. rozpoczęły szturm generalny. Jednakże załoga twierdzy nie tylko obroniła się, ale w licznych wycieczkach wycięła ponoć aż 6 tys.