Когда-то на месте дома Мурузи стоял деревянный особняк с садом и белыми колоннами. Он принадлежал мореплавателю, дипломату, предпринимателю и первому официальному послу России в Японии Николаю Резанову. После его гибели дом переходил от хозяина к хозяину, пока не был выкуплен Александром Мурузи, потомком византийского княжеского рода.

По проекту архитектора Серебрякова в 1874-1877 годах было возведено новое здание в мавританском стиле. Именно это строение принесло архитектору громкую славу.

После смерти Мурузи особняк был продан, его владельцем стал генерал-лейтенант Рейн, владевший им до начала Октябрьской революции.

В двадцатом веке в доме Мурузи проживали Дмитрий Мережковский и Зинаида Гиппиус. В их салоне проводились литературные вечера, посетителями которых были Блок, Белый, Розанов, Брюсов и другие. Соседом Мережковских был поэт Владимир Пяст. В 20-х годах, в одной из комнат дома, Корней Чуковский организовал студию молодых переводчиков. В это же время Николай Гумилев организовал здесь свою студию.

После войны в этом доме в разное время жили Иосиф Бродский и Даниил Гранин.