Miłosierdzie mieszka w Wileńskiej Ostrej Bramie od stuleci w Cudownym Wizerunku Matki Bożej.  W źródłach historycznych pierwsza wzmianka o Ostrej Bramie pochodzi z 1514 roku. Obecnie Ostra Brama dla większości jest miejscem świętym – sanktuarium Maryjnym. Jednakże kilka stuleci temu była to tylko jedna z dziewięciu bram miasta z basztą obronną i jako jedyna przetrwała do dziś. O funkcjach obronnych tej budowli świadczą strzelnice dobrze widoczne na zewnętrznej elewacji bramy. Główna fasada kaplicy ostrobramskiej pochodzi z późniejszego okresu. Początkowo brama ta nazywana była Miednicką, gdyż znajdowała się na szlaku prowadzącym do Miednik. Nazwa „Ostra” przyjęła się z racji usytuowania jej na południowym krańcu miasta, tworzących ostry klin.

W 1668 r. Karmelici uzyskali od władz miasta pozwolenie na stałą opiekę nad obrazem i zbudowanie kaplicy  nad Ostrą Bramą.  Już w 1972 r. do  drewnianej kapliczki uroczyście przeniesiono cudowny obraz Matki Boskiej. Z tym wydarzeniem kojarzony jest pierwszy cud dokonany przez Matkę Bożą Ostrobramską: (…)  dziecko, które wypadło z drugiego piętra na bruk, ofiarowane przez rodziców opiece  Matki Najświętszej – nie poniosło żadnej szkody. Po pożarze wzniesiono murowaną kaplicę. Obecny wygląd w stylu późnego klasycyzmu nadany został kaplicy po rekonstrukcji w XX wieku.