Построены они по проекту Тома де Томона одновременно со зданием Биржи в 1805-1810 годах.

На стволах колонн укреплены металлические изображения ростр - носовых частей кораблей, отсюда и их название. Кирпичная кладка Ростральных колонн и каменотёсные работы были выполнены артелью мастера С. К. Суханова. Корабельные ростры, наяды и якоря отчеканены из меди мастерами Шаповым, Васильевым и Корольковым.

Четыре фигуры у подножия Ростральных колонн высечены из пудостского камня. Первоначально Тома де Томоном предполагалось разместить здесь скульптуры из чугуна, но для такой сложной работы не нашлось исполнителей. В 1809 году было принято решение о создании скульптур из камня, что было сделано в 1809-1813 годах. Фигуры принято считать аллегориями русских рек: Волга и Днепр у северной Ростральной колонны, Волхов и Нева у южной. У двух статуй отсутствуют атрибуты рек (сосуды с льющейся водой). Фигура Днепра выполнена мастером из Антверпена Камберленом. Остальные три - французом Ф. Тибо.

Изначально, Ростральные колонны, высотой в 32 метра, служили маяками для кораблей идущих в находящийся когда-то здесь торговый порт. В чашу на вершине наливали смолу и поджигали её. В 1957 году сюда проведён газ, по праздникам зажигают факелы в чашах.

В 1926-1928 и 1947-1949 годах проводилась реставрация Ростральных колонн. Утраченные металлические детали были заменены их копиями. Последние реставрационные работы проходили в 1998-1999 годах.