Дворец именовался первоначально Митрополичьим домом, иногда Чудовым дворцом — он стоял на земле Чудова монастыря, на том месте, где некогда был двор боярина Б.И. Морозова.

Митрополиту Платону в те годы досаждала пальба из кремлевских пушек в праздничные дни; в 1786 году от нее, например, вылетели стекла в Архиерейском доме.

Сохранилось любопытное описание Архиерейского дома, сделанное Франсиско де Миранда, национальным героем Венесуэлы, борцом за освобождение Латинской Америки от испанского владычества, много лет странствовавшим по Европе. В России он был в 1786—1787 годах, а в стены Архиерейского дома вошел 18 мая 1787 года: «Мы направились в новую резиденцию архиепископа, расположенную также в Кремле, где никто не живет, хотя здание очень хорошее. Построивший его нынешний архиепископ предпочитает другое, удаленное от шума и суеты и окруженное садом, где он прогуливается. Дворец же, в котором мы побывали, весьма неплох. Внутри висят портреты предшественников этого архиерея; обращают на себя внимание два превосходных наборных мраморных стола работы укрывшихся здесь иезуитов — подарок князя Потемкина; коллекция ладанок, а также ложе покойной великой княгини, которое, по обычаю, было передано ее духовнику Платону».

Стекла вновь вылетели в 1812 году от французских взрывов в Кремле; но более того архиерейский дом не пострадал. В 1817 году он перешел в дворцовое ведомство, а в 1818-м был куплен для великого князя Николая Павловича, будущего императора Николая I. Здесь же временно поселили прибывшего в Москву прусского принца Вильгельма. В 1820 году дворец расширили, в 1824 году над проектом его перестройки работал архитектор И.Л. Мироновский. В то время здание еще звали по старинке Чудовым дворцом, ас 1831 года стали именовать Николаевским, или малым Кремлевским (позднее два названия срослись). В 1824 году для удобного размещения государевой свиты дворец надстроили третьим деревянным этажом. Работами этими заведовал князь Н.Б. Юсупов, владелец подмосковного Архангельского. Новый вид дворца изображен на многочисленных панорамах Кремля XIX столетия, например, на панораме по рисунку Д.С. Индейцева.