Остробрамська каплиця
Північна стіна воріт спочатку була нижчою. У 1671 чи у 1672 році завдяки зусиллям отця Карла від Святого Духа була добудована дерев'яна каплиця на північному боці. Вона згоріла в 1711 році, і в наступному році була відбудована в цеглі. Точно не відомо, коли в неї був поміщений чудотворний образ Богородиці.
У 1789-1793 роках в передній частині каплиці для потреб молільників була побудована класицистична галерея.
У 1829-1830 роках відбулася реставрація каплиці. Наступні реставрації проводилися у 1927-1932 роках та в 1993 році, перед візитом Папи Іоанна Павла II.
На початку 2010 року розпочато ще один ремонт каплиці в Острій брамі, незабаром відзначений як шкідливий. Під час реконструкції, серед іншого, демонтовані старовинні двері, пошкоджено керамічну плитку з 1932 року через розташування на них нової підлоги, замінено поручні, а понад 100-річні сходи замінені новими з імітацією граніту.
Наприкінці лютого Департамент з охорони пам'яток при Міністерстві культури Литви вимагав припинення ремонтних робіт і призначив спеціальну комісію, яка повинна була стежити за відновленням зруйнованого, а також визначити, хто має право на проведення такого ремонту.
Державна комісія з культурної спадщини зі свого боку направила лист міністру культури Remigijusa Vilkaitisa і митрополиту Вільнюському кардиналу Audrys Baczkisa із закликом належним чином дбати про сакральні об'єкти.