A Kálvária-domb alján a szerpentin mentén található a Sziklakápolna, melyben a legenda szerint egykor egy remete élt. Az ő munkája a barlang jobb oldalán látható gyönyörű kő dombormű, amely Szűz Mária megkoronázását és a Szentháromságot ábrázolja. A remete halála után kibővítették a barlangot. és templommá alakították át. Az 1770-es évek végén már álló templom szentélyeként használták a barlangot. Az Öregtemplom lebontása után évtizedekkel később, 1938-ban Jékey László és Bartóky Magda építette a jelenleg is látható díszes, címeres homlokzatot a kovácsoltvas kapuval Hendrich Antal tervei alapján. A kápolna mellett a hegybe mélyedve található a remete sírja. Augusztus 5-én, búcsú napján tartanak itt litániát. Adventkor pedig életnagyságú betlehemet csodálhatnak meg meg a kápolnában az érdeklődők.