История здания достаточно многострадальная. Несколько раз храм был на грани закрытия и даже находился под угрозой сноса. Причины тому были разные. С приходом к власти большевиков прихожане и церковнослужители подвергались гонениям, сжигалась религиозная литература, а сам храм неоднократно был разграблен. В 1980 году в преддверие Олимпийских игр мечеть, находившуюся в непосредственной близости к спортивному комплексу «Олимпийский», едва не подвергли сносу. О причине подобного решения информации мало, однако здание удалось спасти совместными усилиями представителей дипломатических миссий арабских стран. Но несмотря на сложные обстоятельства, мечеть не закрывала двери для верующих. И каждую пятницу проходили богослужения.

В 2008 году Московская соборная мечеть получила статус объекта культурного наследия, однако через год статус был снят. Над зданием снова нависла угроза сноса.

На данный момент продолжается масштабная реконструкция здания, начатая почти десять лет назад. Ожидается, что после ее завершения высота минаретов мечети будет достаточной, чтобы ее можно было увидеть из Московского Кремля.