Основан 28 октября (10 ноября) 1883 года как Музей церковных древностей. Расположен на территории архитектурного ансамбля бывшего архиерейского дома (Ростовского кремля), построенного во второй половине XVII века митрополитом Ростовским и Ярославским Ионой III (Сысоевичем). Деятельное участие в организации музея приняли ростовские краеведы и купцы А.А. Титов и И.А. Шляков, братья Е.И. и В.И. Королёвы, предводитель ростовского дворянства Д.А. Булатов, Московское императорское археологическое общество, ярославский губернатор В.Д. Левшин, архиепископ Ярославский и Ростовский Ионафан (Руднев). Формированию и приращению коллекций музея способствовали, помимо его основателей, жертвователи и благотворители - представители всех сословий общества.
Создание музея в одном из древнейших русских городов, богатом историко-культурными памятниками, было воспринято российской общественностью как событие общенационального значения. С 1910 года на содержание музея ежегодно из государственной казны выделялась сумма в 2300 рублей, что было фактом признания учреждения на самом высоком уровне. Среди посетителей музея тех лет - император Николай II, историки Д.И. Иловайский и И.В. Помяловский, художники В.В. Верещагин и В.И. Суриков, композитор М.А. Балакирев, писатель A.M. Горький, певец Ф.И. Шаляпин, посол Франции Морис Бомпар...
После Октябрьской революции 1917 года Ростовский музей преобразуется сначала в Государственный музей древностей, а затем в краеведческий. В сложной, противоречивой обстановке 1920-х -1930-х годов, когда происходили массовые ликвидации и разорение храмов, монастырей, дворянских и купеческих усадеб, сотрудники музея во главе с директором Д.А. Ушаковым проявили себя подлинными хранителями национального культурного наследия, спасая от гибели документы, произведения иконописи и декоративно-прикладного искусства, памятники письменности и книгопечатания.
В 1953 году Ростовский кремль серьезно пострадал от смерча. Его реставрация под руководством B.C. Баниге в 1950-е - 1960-е гг. стала крупным явлением отечественной культуры. В 1970-е - 1980-е годы значительно возрастает посещаемость музея, чему способствовали развитие массового туризма и открытие популярного маршрута "Золотое кольцо".
Указом Президента Российской Федерации от 24 января 1995 года музей-заповедник "Ростовский кремль" включен в государственный свод особо ценных объектов культурного наследия народов России.
В настоящее время для осмотра посетителям предлагаются уникальные архитектурные памятники, экспозиции древнерусского искусства XII-XVII веков, живописи XVIII-XX веков, ростовской финифти, открытые фонды керамики, русского и зарубежного фарфора, фаянса, музей личных коллекций, экспозиция по археологии и реконструкция древлехранилища, с которого и начинался музей в Ростовском Кремле.