1 апреля ополчение подошло к стенам Белого города. Ляпунов встал у Яузских ворот, князь Трубецкой с Заруцким — напротив Воронцовского поля, костромские и ярославские воеводы — у Покровских ворот, Измайлов — у Сретенских ворот, князь Мосальский — у Тверских. 6 апреля русским удалось овладеть большей частью Белого города.
Со времен бегства из Тушина Лжедмитрия II «гулял» по Руси отряд Яна (Петра) Сапеги. Жили сапеженцы, как и положено, грабежом и никому не подчинялись. Сапега заводил флирт с Лжедмитрием II в Калуге, а после смерти самозванца начал флиртовать с Ляпуновым, предложив сражаться вместе против поляков «за веру православную». Неразборчивый в средствах Ляпунов принял предложение Сапеги, но стороны не сошлись в цене — уж больно много требовал пан Сапега.
И вот в начале мая Сапега с отрядом появился у стен осажденной Москвы и стал лагерем на Поклонной горе. Представители Сапеги явились к Ляпунову и опять стали торговаться и опять не сошлись в цене. Тогда у гонористого пана взыграл польский патриотизм, и он с боем прорвался в Москву. Однако проку от Сапеги было мало. С одной стороны, в Москве назревал голод и кормить сапеженцев было накладно. С другой стороны, шайки разбойников, в которые превратилась частная армия Сапеги, могли окончательно разложить польский гарнизон. Поэтому Гонсевский не возражал, когда через несколько дней Сапеге наскучила Москва, и он отправился «гулять» дальше, прихватив с собой несколько сотен поляков из войска Гонсевского. Позже некоторые русские историки, включая С. М. Соловьева, гадали, «зачем он (Гонсевский) себя ослабил таким образом?» Да его и спрашивать никто не стал! Договорились паны ротмистры с Сапегой и ушли со своими ротами.
Король Сигизмунд отправил к Москве небольшой отряд под командованием ротмистров Кишки и Конецпольского. Поляки же, засевшие в Москве, стали распускать слухи, что к ним на помощь идет гетман Ходкевич с большим войском. В знак радости поляки открыли большую стрельбу из ружей и пушек. Настрелявшись «в белый свет» и думая, что нагнали страху на Москву, поляки вечером 21 мая разошлись по домам и спокойно заснули. Но русские под стенами столицы не спали. За три часа до рассвета они тихо приставили лестницы и полезли на стены Китай-города. Полякам с большим трудом удалось отбить атаку на Китай-город. Однако в ходе упорного боя русские окончательно очистили от поляков Белый город.
Утром 23 мая Ляпунову сдались немецкие наемники, оборонявшиеся в Новодевичьем монастыре. По версии Казимира Валишевского, казаки Заруцкого после сдачи монастыря изнасиловали всех монахинь, включая инокиню Ольгу (Ксению Годунову), а затем отправили их во Владимир. После этого русские периодически приближались к стенам Кремля и Китай-города и дразнили поляков: «Идет к вам на помощь гетман литовский с большою силою, идет с ним пятьсот человек войска! Больше не надейтесь, уже это вся Литва вышла. Идет Конецпольский, живности вам везет, везет одну кишку» (кишка по-польски колбаса), еще кричали: «Радуйтесь, конец польский приближается!»
Королю Сигизмунду действительно было не до Москвы, он предпринимал отчаянные попытки покончить наконец со Смоленском. 8 апреля 1611 года русские послы Филарет и князь Голицын были вызваны к канцлеру Сапеге, который объявил им, что «во вторник на Страстной неделе русские люди начали собираться на бой, королевские вышли к ним навстречу, сожгли город, и много христианской крови пролилось с обеих сторон». Еще канцлер добавил, что патриарх Гермоген за подстрекательство к восстанию взят под стражу и содержится на подворье Кирилло-Белозерского монастыря в Кремле. Послов это сильно огорчило, а Филарет сказал: «Это случилось за грехи всего православного христианства, а отчего сталось и кто на такое разорение промыслил, тому Бог не потерпит и во всех государствах такое немилосердие отзовется. Припомните наши слова, мы на всех съездах говорили, чтоб королевское величество велел все статьи утвердить по своему обещанию и по договору, иначе людям будет сомненье и скорбь. Так и случилось. Так хотя бы теперь королевское величество смиловался, а вы бы, паны радные, о том порадели, чтоб кровь христианскую унять, и все бы люди получили покой и тишину».
Сапега ответил, что король именно за тем и пришел в Московское государство, чтобы его успокоить, но русские сами во всем виноваты, поляки же сами были бы все уничтожены, если бы не сожгли Москву, и добавил: «Но скажите, как этому злу помочь и кровь унять?» Послы ответили: «Теперь мы и сами не знаем, что делать. Посланы мы от всей земли, и, во-первых, от патриарха, но слышим от вас, что этот начальный наш человек теперь у вас под стражею, Московского государства бояре и всякие люди пришли под Москву и с королевскими людьми бьются. Кто мы теперь такие, от кого послы — не знаем; кто нас отпускал, те, как вы говорите, умышляют противное нашему посольству. И с Смоленском теперь не знаем, что делать, потому что если смольняне узнают, что королевские люди, которых москвичи впустили к себе, Москву выжгли, то побояться, чтоб и с ними того же не случилось, когда они впустят к себе королевских людей». Сапега отвечал: «Что сделалось в Москве, об этом говорить нечего: говорите, что делать вперед?» Тогда послы сказали: «Другого средства поправить дело нет, как то, чтоб король наши статьи о Смоленске подтвердил и время своего отступления в Польшу именно назначил на письме, за вашими сенаторскими руками. А мы об этой королевской милости дадим знать в Москву патриарху, боярам и всем людям Московского государства, напишем и тем, которые теперь пришли под Москву, чтоб они унялись и с королевскими людьми не бились, и чтоб из Москвы к нам как можно скорее отписали и прислали людей изо всех чинов». Сапега согласился, но потребовал, чтобы договор о Смоленске был заключен немедленно, и сразу же в город были впущены королевские войска. Но послы возразили, что, не получив ответа из Москвы, смоляне на это не согласятся. Тогда канцлер велел послам написать две грамоты: одну в Москву к патриарху и боярам, другую в ополчение к Ляпунову. На следующий день Луговский принес эти грамоты к Сапеге, а тот спросил: «Хотите ли теперь же впустить в Смоленск людей королевских?» Луговский ответил, что решено ждать ответа из Москвы. «Когда так, то вас всех пошлют в Вильну», — пригрозил Сапега. «Надобно кровь христианскую унять, а Польшею нас стращать нечего: Польшу мы знаем», — был ответ Луговского.
12 апреля послам объявили, что на следующий день их отправят в Польшу. Напрасно Филарет и Голицын объясняли, что у них нет инструкций ехать в Польшу и даже нет средств на это путешествие. Рано утром им было велено садиться на речные суда. Когда русские стали садиться на суда, польская охрана перебила всех слуг и захватила все посольское имущество. Послы на трех судах под конвоем были отправлены вниз по Днепру.
Первоначально русские послы были заключены во владениях пана Жолкевского в местечке Каменки, а когда поляки сдались в Москве, Филарета и Голицына отправили подальше в замок Мальборг (Мариенбург).
Между тем силы гарнизона и жителей Смоленска иссякали. В городе свирепствовала цинга. Современники утверждали, что к концу осады из восьмидесяти тысяч жителей осталось не более восьми тысяч. Из Смоленска к королю перебежал некий Андрей Дедешин, который указал на слабые места в стене. Король велел построить там несколько осадных батарей. После нескольких дней бомбардировки стены рухнули. Ночью 3 июня 1611 года поляки полезли в пролом. Начался бой на городских улицах. Смоленск горел. Несколько сотен горожан заперлись в соборной церкви Богородицы вместе с архиепископом Сергием. В собор ворвались поляки, архиепископ в полном облачении с крестом в руках пошел им навстречу. Какой-то пан ударил Сергия саблей по голове. Поляки начали в соборе рубить мужчин и хватать женщин. Тогда посадский человек Андрей Беляницын взял свечу и полез в подвал собора, где хранилось 150 пудов пороха. Как писал современник: «И был взрыв сильный, и множество людей, русских и поляков, в городе побило. И ту большую церковь, вверх и стены ее, разнесло от сильного взрыва. Король же польский ужаснулся и в страхе долгое время в город не входил».