Одним из очаровательных уголков Архангельского является ансамбль «Каприз», состоявший еще при Н. А. Голицыне из жилого флигеля, примыкавшей к нему библиотеки и Собственного садика.
В 1819 году «Каприз» перестроили: центральная часть здания стала двухэтажной, внутри расположились гостиные, зал, диванная, кабинет, две спальни, девичья и кухня. В XX веке здесь размещались хозяйственные службы и музей санатория, лекторий, радиоузел, а с 1985 до 2016 года – музейное фондохранилище.
Сегодня в здании на обоих этажах располагаются выставки. На первом этаже представлены временные и постоянные экспозиции фарфора из коллекции Юсуповых, проходят совместные проекты с другими музеями, связанные с темой фарфора. На втором этаже расположено открытое хранилище фондов керамики, стекла и металла.
В Собственном садике во время летних фестивалей проходят концерты под открытым небом.