El pasado de Berge documenta la ocupación romana en la ermita de La Virgen de la Peña, la ocupación del término documentada en época visigoda y un importante hallazgo de una moneda musulmana. La conclusión de las obras del embalse de Gallipuén y la cruenta guerra civil marcaron el inicio de un declive demográfico. El principal valor patrimonial de este municipio, reside en la iglesia parroquial, que cuenta con el reconocimiento de Bien de Interés Cultural; en el término municipal destaca el santuario de la Virgen de la Peña, en un paraje singular donde el camino de acceso está flanqueado de peirones.