Современное здание мечети построено в 1880 году архитектором Д.И. Певницким. Это самая старая действующая мечеть в Москве, она так и называется \"Историческая\". При советской власти мечеть была закрыта в 1939 году, имам - репрессирован, минарет снесен, а здание отдано военкомату. Мечеть снова работает с 1993 года.
Татарская слобода в Замоскворечье известна с XIV века. В ней жили татары, переселившиеся в Россию из Золотой Орды и Поволжья. Это была одна из первых иностранных слобод в Москве. Сегодня о Татарской слободе напоминают уцелевшие дома владельцев, Татарские улицы и переулки, и самая старая в городе Историческая мечеть.
Мечеть, в которой татары Замоскворечья отправляли обряды, сгорела в пожаре 1812 года. После Отечественной войны купцы-мусульмане просили разрешения построить новую мечеть. Власти дали его в 1823 году, при условии, что молельня на мечеть похожа не будет. В таком виде мечеть во владениях Назарбая Хашалова работала до 1880 года.