Музей был основан в 1967 году. До 1972 года работал на общественных началах. В 1972 году получил статус городского краеведческого музея. В 1986 году ему было предоставлено новое помещение площадью 95 кв. м с отдельным фондохранилищем.
Экспозиции музея посвящены различным вопросам, касающимся краеведения. Большой интерес у посетителей вызывает зал «Колывань камнерезная», так как минералогическая коллекция очень разнообразна. Оригинален в своем оформлении зал, рассказывающий об истории возникновения г. Рубцовска, поражает коллекцией подлинных документов зал «История семьи». Фондовая коллекция музея на 1 января 2022 года насчитывает 29 502 единицы.
