A l'origine, le parc du Petit Bois appartient au château du Grand Jardin, pour lequel il constitue une réserve de chasse. La disposition des allées témoigne encore de cette activité cynégétique. Le bois est séparé des jardins du château en 1754, date de la construction de la nouvelle route des Flandres à la Bourgogne, qui rejoint Saint-Dizier. La commune acquiert alors le bois et le transforme en promenade publique. Il compte aujourd'hui plusieurs sculptures en fonte qui rappellent l'importante activité sidérurgique qu'a connue la région au XIXe siècle.