Kilve strand is beroemd om zijn blootgesteld rotsformaties en fossielen, en is aangewezen een geologische site van specifiek wetenschappelijk belang. Het strand en de omliggende kliffen zijn samengesteld uit lagen van kalksteen en olie-met schalie, dat dateert uit ongeveer 200 miljoen jaar geleden, ze bevatten enkele van de vroegste ammonieten te worden opgenomen in het Verenigd Koninkrijk tijdens de tussentijdse Jurassic periode. William Wordsworth, die leefde voor een korte periode aan Alfoxden House in de buurt Holford, beschreef het strand als' Kilve het heerlijk wal 'in zijn gedicht, anekdote voor de paters.