Un grupo de monjas franciscanas que habían huido de los efectos de la Revolución Francesa en 1807 estableció una capilla que se convirtió en el centro de Taunton, en las misas católicas. A mediados del siglo 19, la iglesia construida en la Media Luna en 1807, fue sustituido por el edificio actual, que se estableció sobre un antiguo monasterio carmelita. El nuevo, más amplio de la iglesia católica con su altura, impresionante torre, fue dedicada a San Jorge, y abrió en 1860.