Библиотека была основана 30 октября 1901 года Нижегородским городским комитетом попечительства о народной трезвости и поначалу представляла собой бесплатную библиотеку-читальню при чайной. С читальней были связаны такие известные в городе люди, как И. В. Богоявленский, Н. Н. Иорданский, В. И. Снежневский и другие. В 1915 году она окончательно обосновалась в доме Прасковьи Ивановны Гусевой. Ныне это дом № 146 на ул. Ильинской. В 1918 году учреждению было присвоено имя Г. И. Успенского.
Библиотека сегодня – это коллектив, бережно сохраняющий информацию о прошлом и вписывающий ее в контекст современности для будущих поколений краеведов. Этому способствуют обширный фонд краеведческой литературы, уникальная музейная экспозиция «Нижегородская старина», библиотечный стартап «Лаборатория краеведения» и проект «Ильинка-digital», направленные на стимулирование у молодежи исследовательской деятельности по краеведению.
Ежегодно филиал посещают более 22 000 человек. Книжный фонд – более 16 000 экземпляров. Для читателей работает клуб «ОчаК» («Очарованные книгой»).