1932 год — в Московской государственной консерватории имени Чайковского создается Детское отделение для подготовки учеников к поступлению в высшие музыкальные учебные заведения. Инициаторами выступили профессор Александр Борисович Гольденвейзер и директор консерватории Станислав Теофилович Шацкий. Организована Особая детская группа для особо одаренных детей (около 15 человек).
1935 год — по постановлению Правительства СССР Детское отделение Московской консерватории переименовано в Центральную музыкальную школу при Московской консерватории. Особая детская группа интегрируется в школьную систему. Школа переводится в двухэтажное здание рядом с Московской консерваторией. В школе проводятся как музыкальные занятия, так и общеобразовательные — по программе средних школ.
1941 год — Из-за Великой Отечественной войны в августе Центральная музыкальная школа эвакуируется в Пензу. Педагоги и ученики размещается в здании художественного училища, занятия проходят в помещении Детской музыкальной школы № 1 г. Пензы.
1943 год — В октябре ЦМШ возвращается в Москву. Школа въезжает в новое типовое четырёхэтажное здание, построенное недалеко от Московской консерватории.
1954 год — В ЦМШ открылось теоретико-композиторское отделение.
1960-е годы — Открытие Интерната в дореволюционном особняке рядом с ЦМШ. Появляется возможность учиться в школе детям со всех концов Советского Союза.
1979 год — ЦМШ закрывается на капитальный ремонт, переводится в соседнее здание. В начале следующего года возвращается на старое место.
1987 год — Здание Центральной музыкальной школы признается аварийным и непригодным для занятий. Осенью этого же года ЦМШ и интернат переводятся на Бульвар Генерала Карбышева, дом 15, корпус 3 (станция метро «Октябрьское поле») в типовое пятиэтажное школьное здание, неприспособленное для одновременного обучения музыке и общеобразовательным предметам. Интернат располагается в этом же здании на втором этаже (прозван учащимися «козлятником»), в нем отсутствуют репетитории (комнаты с фортепиано, где можно самостоятельно репетировать музыкальные произведения). Период реконструкции старого здания составил 18 лет.
2005 год — В январе реконструкция здания ЦМШ завершена полностью. Центральная музыкальная школа вернулась на своё прежнее место в полностью оборудованное всем необходимым для занятий музыкой здание. Официальное открытие обновленной школы состоялось 21 марта при участии министра культуры Александра Соколова и его предшественника Михаила Швыдкого. Весной того же года возвращается на своё место и интернат.