Um grupo de freiras franciscanas que tinham fugido os efeitos da Revolução Francesa em 1807 estabeleceu uma capela que se tornou o centro de missas católicas em Taunton. Até meados do século 19o, a igreja construída no Crescente, em 1807, foi substituído pelo actual edifício, que foi criado em um antigo convento carmelita terreno. A nova e maior dimensão da Igreja Católica com a sua alta, imponente torre, foi dedicada a São Jorge, e inaugurado em 1860.