Według legendy, położony na tzw. Piasku, poza murami krakowskiego Okołu kościół Karmelitów, ufundowany został w 1087 r. przez księcia Władysława Hermana. Było to wotum za cudowne uzdrowienie panującego, którego twarz pokryła się wrzodami.
„Stękał nieszczęśliwy na łożu królewskim wśród rady lekarskiej i wszelkiej ludzkiej pomocy, narzekając, że oto samemu stał się przykrym i nieznośnym, a że schorzenie nie ustępowało, do nieba wzdychał prosząc o uzdrowienie. Wkrótce też, podczas snu ujrzał Marię Pannę, która poleciła mu co prędzej iść za miasto, tam kędy rosną fiołki kwitnące, leśnym podobne, a gdy ich słodki zapach tylko poczuje, by ziemię otworzył żelazem, a wynalezionym spod fiołków piaskiem usta zarażone potrząsnął. Na ostatek Panna przykazała, aby w tym miejscu kościół ku Jej czci i chwale wystawił”.
Budowana świątynia otrzymała wezwanie Matki Boskiej Śnieżnej. Początkowo wzorowana była na kościele praskich Karmelitów o takim samym wezwaniu, jednak w stolicy Czech budowano bardzo wysoką bryłę kościoła.
W 1397 r., królowa Jadwiga, na dwa lata przed swoją śmiercią, sprowadziła do Krakowa ojców Karmelitów. Jadwiga i Jagiełło wybudowali dla nich klasztor oraz rozpoczęli przebudowę kościoła w stylu gotyckim.
Według późniejszej legendy, królowa Jadwiga, wizytując budowę kościoła na Piasku, spostrzegła, że jeden z robotników jest bardzo smutny. Gdy dowiedziała się, że nie ma pieniędzy na cyrulika dla swej chorej żony, obiecała mu swą pomoc. Oparła stopę na kamieniu, odpięła złotą klamrę z bucika i ofiarowała kamieniarzowi. Gdy odeszła, robotnicy spostrzegli, że w kamieniu odciśnięty pozostał ślad stopy królowej. Odkuli więc kamień, wyryli na nim datę 1390 i wmurowali go w ścianę świątyni.
Po minionych wiekach, w obecnym kształcie kościoła dominuje styl barokowy.