St Mary's werd opgericht binnen de stadsmuren te dienen als een kerk voor het garnizoen van Caernarfon Castle. Het werd gebouwd in 1307 door Henry de Elerton, tweede bouwmeester van het kasteel. De toren is opgenomen in het noord-west hoek van de stadsmuren, en het is de vestry voor de kerk. St Mary `s werd een kapel naar het nabijgelegen Llanbelig parochiekerk. Er is een Jesse Window. Veel restauratie vond plaats in 1814 door de architect Benjamin Wyatt.
