Kilve playa es famosa por sus formaciones rocosas y expuestos fósiles y se ha designado un geológicas específicas del sitio de Interés Científico. La playa y los acantilados que rodean están formadas por capas de piedra caliza y oleaginosas shale, que se remonta a unos 200 millones de años, que contienen algunos de los primeros ammonites que se registraron en el Reino Unido durante el período Jurásico medio. William Wordsworth, que vivió durante un breve tiempo en Alfoxden House en cerca Holford, que se describe como la playa 'Kilve la deliciosa orilla' en su poema, Anecdote para Padres.