Первые упоминания о Спасском погосте относят к 1640 году. Название кладбище получило по имени близлежащей деревни Волково. Исторические документы XVIII века рассказывают о нападениях волков на местных жителей и домашнюю скотину. В кладбищенских легендах говорится, будто бы на те могилы, где покойников зарывали недостаточно глубоко – что случалось нередко, поскольку тут хоронили бедняков и безродных, – в зимнюю стужу хаживали целые стаи голодных волков. Погост был неухоженным и очень сырым, учет захоронений не велся.
В 1756 году было закрыто кладбище в Ямской слободе, где гуляла царица. Вид кладбища ее удручал, и она велела перенести его в другое место. Таким образом, временем основания Волковского кладбища можно считать середину XVIII века.
С расширением кладбища возникла необходимость и его благоустройства. Главной задачей в этом месте была борьба с сыростью. С этой целью прорыли осушительные канавы, а дорожки между могилам закрыли досками – мостками. К XIX веку общая протяженность мостков составляла порядка 25 километров. А поскольку хоронить к этому времени стали не беспорядочно, а по рангам, сословиям или национальностям, то появились и соответствующие названия разных частей кладбища: «цыганские мостки», «немецкие мостки» и т. д.
В середине XIX века, когда здесь стали хоронить писателей, появились «Литераторские мостки». Сейчас это музей-некрополь, где покоятся известнейшие деятели культуры, искусства и литературы. Одним из первых здесь похоронен философ и великий мыслитель своего времени Александр Николаевич Радищев, затем – литературный критик и публицист Виссарион Григорьевич Белинский, писатели Иван Сергеевич Тургенев, Александр Иванович Куприн, Николай Семенович Лесков, Дмитрий Наркисович Мамин-Сибиряк, поэтесса Ольга Федоровна Бергольц, великий натуралист Дмитрий Иванович Менделеев, путешественник, этнограф Николай Николаевич Миклухо-Маклай и многие, многие другие. Здесь лежат мать и сестра Владимира Ульянова-Ленина.
С 1935 года на Волковском расположился филиал музея городской скульптуры, в связи с чем сюда перенесли останки многих известных людей с кладбищ, которые советские власти планировали уничтожить. В частности, со Смоленского был перенесен прах Александра Александровича Блока и Ивана Александровича Гончарова.
За время существования кладбища было построено несколько православных храмов, из которых до нашего времени сохранилась только церковь святого праведного Иова Многострадального. Построенная в 1887 году, она чудесным образом не только пережила советскую эпоху, но и оставалась действующей на протяжении всего этого времени.
Истории других храмов печальны: первая деревянная церковь Спаса Нерукотворного просуществовала 30 лет, затем обветшала и была разорена. В 1842 году на ее месте воздвигли каменный храм Спаса Нерукотворного, который в 1935 году был отдан заводу «Монументскульптура» для сооружения памятника Кирову. В 1935 году уничтожена церковь Всех Святых (она же Пономаревская), построенная в 1852 году, а в 1932 году разрушена церковь Успения Пресвятой Богородицы.
Советские власти не пощадили и множество могил и склепов, ценность которых сочли недостаточной. В 20–30-е годы кладбище было сильно урезано, а в 1936 году его чуть не закрыли, поскольку у президиума Ленсовета появилась идея превратить его в парк. Но грянула война, проект заглох. Во время Блокады ленинградцы вновь стали хоронить на Волковском. На месте братской могилы возведен обелиск.
Сейчас кладбище имеет статус действующего. Его площадь составляет 25,5 га.