Zbudowany w latach 1643–45 dla hetmana Koniecpolskiego. Od końca XVII wieku do 1817 r. był własnością Radziwiłłów.
Kilkakrotnie rozbudowywany. Obecną klasycystyczną formę zawdzięcza przebudowie (w latach 1818–19), dokonanej po zakupieniu pałacu przez władze Królestwa Kongresowego. W 1955 roku podpisano tu Układ Warszawski, w 1970 roku układ o normalizacji stosunków z Niemcami, a w 1989 roku prowadzono obrady Okrągłego Stołu. Od 1994 r. jest rezydencją Prezydenta RP.