St Dubricius wordt gezegd te zijn hier geboren en is van mening dat een vroegere kerk, die stond op de site, was ooit gewijd aan hem. Records gehouden op Hereford Cathedral vertellen hoe de 1318 pelgrims een bezoek gebracht aan het standbeeld van de maagd Maria, die was ondergebracht in de crypte van Madley Kerk. De kerk is rijk aan middeleeuwse wandschilderingen, glas-in-lood en koorgestoelte. De toren en de crypte kan bezocht worden op afspraak.