Первые упоминания о храме на этой улице относятся к 70-м гг. XVI в. Ордынцами называли тех людей, которых выкупали из татаро-монгольского плена. Здесь они поселились и выстроили деревянную церковь.

1685 год ознаменовался постройкой каменного храма. В 1783 году была затеяна перестройка под руководством архитектора В. Баженова, которая закончилась в 1790 году. Восстановление здания после пожара 1812 г. было доверено зодчему О.И. Бове, который отстроил ее в стиле ампир, придав центральному залу форму ротонды. Заново освятили сооружение в 1836 г. В церкви разместили чудотворную икону «Всех скорбящих Радость».

Храму повезло — в послереволюционные годы на его территории был запасник Третьяковской галереи, чьи сотрудники бережно относились к церковным артефактам.

В настоящее время это действующее культовое сооружение. Духовно-просветительский центр при храме открыл воскресную школу и молодежный клуб.