Está formado por un núcleo principal y el barrio de Santa Marina, que se encuentra al oeste del anterior. El nombre de la localidad tiene su origen en el monasterio medieval del que actualmente solo se conserva la magnífica Ermita de Nuestra Señora del Valle, la joya monumental de la localidad y uno de los mejores exponentes del arte románico burgalés. Fue construida entre finales del siglo XI y principios del XII, con una sola nave, crucero rematado por una cúpula sobre pechinas y ábside semicircular con tres arcos ciegos bajo los que se abren pequeños vanos.

La torre cuenta con husillo y dos ventanas a cada lado. Por su parte, la portada luce arquivoltas apuntadas, decoradas con motivos geométricos y monstruos en los capiteles.

Del antiguo Castillo se conserva parte de la torre del homenaje y del lienzo sur de la muralla, así como algunos restos que permiten intuir la forma pentagonal de la planta primitiva. Levantado  en torno al año 1000, formó parte de la línea fronteriza entre los reinos de Navarra y de Castilla, al que pasó a pertenecer tras la Batalla de Atapuerca (1054). También tuvo diversos propietarios privados, entre ellos los poderosos Velasco, ya a finales del siglo XIV.

La Iglesia de Santa María Magdalena, gótica con añadidos barrocos y neoclásicos (de los siglos XIV-XVIII), tiene una nave con bóvedas de crucería, dos capillas laterales y ábside poligonal. La portada (neoclásica) es sencilla y la esbelta espadaña destaca sobre el conjunto. Alberga dos interesantes elementos escultóricos: un Cristo Crucificado y una Virgen Sedente (ambos de estilo románico de transición al gótico, de finales del siglo XII).

En cuanto a la Iglesia de Santa Marina (siglos XII-XIII, aunque reconstruida en el XVI), es gótica con elementos románicos (como la portada y una ventana del muro oeste, además de algunos canecillos). Tiene una nave con bóveda de cañón apuntada, ábside poligonal, portada bajo pórtico y el acceso tiene lugar bajo un arco ojival. Frente a esta iglesia se conserva un aljibe de origen romano.