Kilve praia é famosa por suas formações rochosas expostas e fósseis e que tenha sido designado um geológicas Site da especialidade Scientific Interest. A praia e envolventes falésias são compostos de camadas de calcário e óleo de xisto rolamento, que remonta a cerca de 200 milhões de anos atrás, que contêm alguns dos primeiros ammonites a ser gravado no Reino Unido durante o período Jurássico médio. William Wordsworth, que viveu durante um curto período de tempo em Alfoxden House nas proximidades Holford, descreveu a praia como "Kilve's delicioso shore", no seu poema, Anecdote para Padres.
