Dit imposante kerk met haar enorme Corinthische portiek stond aan de waterkant toen het werd voltooid in 1840, vandaar de naam. De rivier de Frome tegenover het was later bedekt. De kerk werd gebouwd door een beweging onder leiding van Edward Irving, die bekend staat als de Katholieke Apostolische Kerk, maar werd overgenomen door de Rooms-Katholieke Kerk een paar jaar later. Het wordt bediend door priesters van de Sociëteit van Jezus.