Здание, находящееся на территории Московского Кремля, между Троицкой и Никольской башнями, было заложено великим Петром I как дом для хранения оружия («Цейхгауз»).

Замысел царя Петра был прост: в здании должен был расположиться склад военной амуниции и музей, где бы хранились боевые трофеи. Строительство началось в 1702 году. В работе приняли участие известные архитекторы того времени: Кристоф Конрад, Дмитрий Иванов, Михаил Чоглоков и Иоганн Шумахер. Постройку решили организовать на месте уничтоженных пожаром складов, где раньше хранили хлеб.

Но из-за начала кампании против шведов в 1706 году было решено приостановить работы — тогда было необходимо направлять все казенные средства на поддержку армии и ведение боевых действий. Финансирование возобновилось в 1711 году, но шло с перерывами и деньги на строительство выделялись крайне скудно.

Возобновили строительство Арсенала значительно позже, а завершено сооружение было только в 1736 году. Архитектурный облик здания на тот момент выделялся своей оригинальностью — фасадами с росписью и крышей с позолоченной черепицей.

Но недолго довелось Арсеналу существовать в таком виде, через год здание сильно пострадало от пожара. Были полностью разрушены перекрытия конструкции, выполненные из дерева. Заново отстроили сооружение уже в 1786-1796 годах. Руководил строительством архитектор М. Козаков. Восстановленное здание снова пострадало, на этот раз от рук французов — при отступлении 1812 года, Наполеон приказал его взорвать. Свой современный вид Арсенал (Цейхгауз) приобрел в 1815-1828 годах. Московские зодчие А. Бакарев, И. Мироновский, И. Тюрин и И. Таманский разработали и воплотили новый проект в жизнь. После победы и реконструкции здесь расположился музей Отечественной войны 1812 года.

Еще по указанию Петра I в здание стали свозить пушки, отбитые у неприятеля. «Для памяти на вечную славу поставить» — таков был монарший указ. К 1819 году количество орудий, расставленных вдоль фасада составило 875 пушек, захваченных у французов. В 1960 сюда перевезли пушки от Оружейной палаты (исключение было сделано только для Царь-пушки, которую установили у собора Двенадцати Апостолов).

В наши дни здесь находится администрация Комендатуры Кремля и казармы полка охраны.