Aucun document ne permet de dater précisément la construction du château d'Ouzouer le Marché.

Il fut probablement construit au XVème siècle, à l'époque de la Seignerie d'Orval qui possédait déjà la seignerie d'Ouzouer en 1460.

Les d'Orval sont les plus anciens seigneurs d'Ouzouer le Marché, ils en furent seigneurs le plus longtemps.

Les différents proprétaires du Château :
- Le 14 avril 1736, les héritiés de TErrat, les Chauvel, vendirent le Château à Hyppolyte de Bonnafau.
- On sait ensuite que, par succession, le domaine passa aux Granolach jusqu'en 1824.
- En 1827, 1870 et 1878, plusieurs actes de vente montrent que la propriété a été divisée en plusieurs logements.
- Le 2 février 1868, les époux Barrault/Legréau achètent une partie du Château avec la tour, la propriété ayant été acquise de Mr Camille Baudron, médecin, et de Mme Aline Huillion son épouse.
- En 1878, la tour fut vendue à Mr Alphonse Hézard.
- A partir de 1960, le crédit agricole y a occupé une partie du bâtiment puis déménagé en 1968.
- La commune d'Ouzouer le Marché a acheté le Château en 1967 avec l'intention de le rénové pour y installer la Mairie.

Sur demande du Trésorier payeur général, en Mars 1968, le Conseil Municipal décide d'affecter le bâtiment à l'usage de la perception.

La perception a occupé les locaux jusqu'en 2002.

La bibliothèque, qui était municipale à l'époque, s'est installée dans le séjour, la cuisine et la vérenda en octobre 2002.

Mis à disposition de la Communauté de Communes de la Beauce Oratorienne, le Château a été rénové en 2003-2004 et accueille depuis Octobre 2004, la bibliothèque intercommunale et des salles pour les associations.