В XVIII веке среди проживающих на Охте было много старообрядцев. Старообрядцы должны были быть похоронены только на своих кладбищах. Поэтому в этом районе возникают первые старообрядческие захоронения. Здесь находили покой, в основном бедные и незнатные люди.
В октябре 1763 года Екатерина II встала на защиту раскольников, и вскоре нападки на старообрядцев практически полностью прекратились, а отношение к ним государственной власти стало гораздо более терпимым. В 1786 году Малоохтинскому кладбищу придаётся официальный статус.
В 1792 году на Малоохтинском кладбище на деньги купца М. Я. Ундзорова была построена каменная моленная, украшенная высоким куполом и колокольней. В начале XIX века при кладбище был открыт ряд благотворительных учреждений, таких как, например, богадельня и больница.
В 1850 году правительство закрыло кладбище и две моленные в связи с борьбой с некоторыми течениями в старообрядчестве, которые выступали резко против государства. А в 1852 г. — издаётся указ, запрещающий старообрядцам хоронить на Малоохтинском старообрядческом кладбище. Все благотворительные заведения были отобраны у верующих и переданы Императорскому человеколюбивому обществу.
В 1865 году, после многочисленных прошений, Малоохтинское кладбище было вновь передано поморцам, но строения им не вернули.
В 1903—1904 годах по проекту Н. А. Виташевского была построена православная церковь во имя Усекновения главы Иоанна Предтечи.
С 1946 года Малоохтинское старообрядческое кладбище считается закрытым, захоронения на нём производятся только в исключительных случаях.
В 1980 годах старинное кладбище хотели ликвидировать. Но потом от этого проекта отказались.
На кладбище открыт участок урнового захоронения.

Малоохтинское кладбище - последнее пристанище колдунов, алхимиков и самоубийц - издавна славилось дурной репутацией. Очевидцы утверждают, что здесь в белые ночи над могилами иногда можно увидеть медленно перемещающееся зеленоватое свечение. Многие в такую пору созерцали невесть откуда взявшийся молочно-белый туман, словно покрывалом окутывающий высокую траву, а в воздухе явственно ощущали запах ладана. Но, порой происходят тут и более таинственные, а порой даже страшные вещи.

О Малоохтинском кладбище ходит много мифов и легенд. Существует интересная история о появлении первой кладбищенской рекламы. В 1898 году на ограде одной из могил появилась надпись: "На вечную память о Лукерье Сидоровой. Решетку вокруг могилы делал опечаленный муж покойной, кузнец, проживающий на Малой Охте и принимающий заказы на подобные работы. Беру дешево и работаю добросовестно". Подобную пиар-акцию со стороны безутешного супруга вошла в историю, ее с негодованием осудила "Петербургская газета" от 20 января 1898 года.

Помимо таких маленьких любопытных фактов о Малоохтинском кладбище имеется еще несколько интересных, но непроверенных легенд. Например, ранее существовало мнение, что на нем хоронили не только старообрядцев, но и различных "лихих людей", вроде алхимиков и самоубийц, которых православная церковь запрещала для захоронения на святой земле. Рассказывали, что ночами там нередко слышатся страшные стоны, стук и скрежет и видны странные оптические явления в виде светящихся силуэтов и бело-голубых шаров.