Музей был основан в 1898 году при активном и непосредственном участии писателя А. П. Чехова. За многие десятилетия музей собрал великолепную коллекцию произведений русской живописи, графики, скульптуры и декоративно-прикладного искусства – всего более семи тысяч работ.
Среди них полотна А. П. Антропова, Ф. Рокотова, П. Федотова, И. Айвазовского, И. Репина, В. Сурикова, В. Верещагина, И. Левитана, В. Серова, П. Кончаловского, графические листы А. Зубова, П. Соколова, В. Борисова-Мусатова, скульптуры П. Клодта, И. Мартоса, Е. Лансере, М. Антокольского и многих других. Таганрогский художественный музей называют «Малой Третьяковкой». Редкая по своему содержанию и грамотно сформированная многими поколениями коллекция позволяет музею принимать участие в масштабных всероссийских и зарубежных выставочных проектах.
Музей разместился в красивом особняке – памятнике архитектуры последней трети XIX века. Торжественная лестница ведет в небольшие экспозиционные залы, где старинные камины и приглушенный блеск позолоты настраивают на неторопливое собеседование с прошлым, а загадочные образы на потемневших полотнах одаривают красотой всех, кто ищет встречи с прекрасным. Неизгладимые впечатления у посетителей оставляет изысканный внутренний скульптурный дворик музея, где представлены великолепные образцы итальянской мраморной скульптуры XIX века.
Музей ведет большую и разнообразную работу по художественному образованию и эстетическому воспитанию.