學院自建院以來，迄今已形成了體現教學、科研、藝術實踐綜合功能的，從附小、附中、大學本科到碩士研究生、博士研究生、博士後流動站等完整的大中小一條龍的音樂教育體系。現設作曲系、音樂學系、指揮系、聲歌系、鋼琴系、管弦系、民樂系、音樂教育系、基礎教育部以及附屬中小學、繼續教育學院、遠端音樂教育學院等教學部門。學院還設有集教學與科研為一體的音樂科技部，其中包括提琴製作研究中心、現代電子音樂中心、音樂治療中心和嗓音研究中心等。2000年建立了全國藝術院校中唯一的一所人文社會科學重點研究基地—中央音樂學院音樂學研究所。學院還設有社會音樂教育部和海內外社會音樂考級委員會，以及中央音樂學院出版社和環球音像出版社。形成了既為全國音樂教育中心，又為全國音樂研究、創作、表演中心和社會音樂推廣中心的辦學模式；成為一所能代表專業音樂教育水準、專業設置比較齊全的在國內外享有很高聲譽的音樂學府。

多年來，學院一直遵循“開闊的學術視野，廣泛的對外交流”這一基本的辦學原則，十分重視對外音樂文化交流工作，每年都聘請許多國外著名音樂家和學者來院講學或任教，也有計劃地選派教師和學生出國學習、講學和演出。為了保持長期交流，學院還聘請國際著名音樂家如作曲家潘德烈茲基、指揮家小澤征爾、祖賓梅塔、鋼琴家阿什肯那齊、小提琴家帕爾曼、大提琴家羅斯托洛波維奇等為學院名譽教授。由學院師生組成的青年交響樂團、民族管弦樂團、合唱團、附中少年交響樂團及附小室內樂團多次出訪歐、美、亞、非各國及香港、澳門和臺灣地區，獲得廣泛讚譽。學校還與俄羅斯莫斯科音樂學院、法國巴黎高等音樂舞蹈學院、英國倫敦皇家音樂學院等世界著名音樂學院建立校際交流合作關係。