В 1910 году на собрании, посвященном памяти адмирала С. О. Макарова, было решено создать Комитет по сбору пожертвований для постройки памятника. Пожертвования составили ¼ процента от всех видов жалования команд и экипажей в течение года. Одновременно был объявлен конкурс на лучший проект памятника.

Проект скульптора Л. В. Шервуда был принят для дальнейшей разработки и исполнения. Бронзовая скульптура и барельефы отлиты на заводе Карла Робекки. В качестве постамента памятника использован гранитный монолит, затонувший на рейде Штандарт у острова Тухольм в начале XIX века, а затем поднятый и доставленный в Кронштадт в 1911 году. Местом установки памятника была выбрана площадь перед Морским собором, в сооружении которого С. О. Макаров принимал самое деятельное участие.

Сам памятник имеет три стороны, на каждой из которых размещен барельеф, посвященный этапу жизни адмирала Макарова. С правой части памятника — выбиты стихи поэта Е. Дмитриева. 

Интересно, что и по сей день у подножия памятника принимают присягу молодые моряки.