Эта улица возникла вскоре после строительства на одном из его берегов Меншиковского дворца: поселившись в своем новом особняке, князь А. Д. Меншиков приказал прорубить просеку, по которой он мог бы проехать на западный край Преображенского острова, выходивший к Балтийскому морю. Эту просеку, перерезавшую весь Преображенский остров, стали называть «Большой першпективой», а в XIX веке переименовали в Большой проспект.

Среди строений наибольшую историческую и культурную ценность представляют здание первого в Санкт-Петербурге Гостиного двора, построенное на углу Большого проспекта и 6-й линии, в котором теперь работает Андреевский рынок и три храма — лютеранская церковь Святой Екатерины, Андреевский собор и церковь Трех Святителей. 

Главной достопримечательностью, оставшейся на Большом проспекте от советской эпохи, является Дворец Культуры имени Кирова, построенный архитектором Н. Троцким после смерти известного политического деятеля С. М. Кирова. Рядом с ним находится один из самых крупных в городе вещевых рынков и здание валютной биржи. В бывшем здании пожарной части, действовавшей на Большом проспекте в конце XIX-начале XX веков, работает пожарно-техническая выставка, посетители которой могут познакомиться с подробнейшей историей борьбы с пожарами в Санкт-Петербурге. Рядом с этим музеем установлена скульптурная группа — памятник подвигу пожарных Ленинграда, выполненный скульптором Л. К. Лазаревым