Kilve plage est célèbre pour ses formations rocheuses exposées et les fossiles et qui a été désigné géologique du site d'intérêt scientifique spécifique. La plage et les falaises environnantes sont constituées de couches de calcaire et de schiste oléagineuses, remontant à environ 200 millions d'années, elles contiennent quelques-unes des premières ammonites être enregistré au Royaume-Uni pendant la période jurassique moyen. William Wordsworth, qui a vécu pendant une courte période à Alfoxden House à proximité Holford, a décrit la plage de "Kilve la délicieuse shore" dans son poème, Anecdote pour les Pères.
