A la hauteur du Parc des Cèdres, la colline qui domine Castillon, lieu emblématique de la petite ville, représente un écrin merveilleux pour la chapelle Saint-Pierre. C'était le premier emplacement d'un château et de murs. Aujourd'hui, on ne le trouve plus que sous la chapelle castrale.
Cette petite chapelle au sommet du Mont Beuvray est construite avec le granit local. Saint Martin est très présent dans le paysage local avec des références à son ane. L'autel est couvert de petits mots adressé à saint Martin !