哈尔滨市具有百年的音乐传承历史，不仅是我国著名的音乐名城，更是亚洲唯一获得联合国授予的“音乐之都”称号的城市。

早在1921年，哈尔滨就有了由俄罗斯侨民创办的全国首个高等音乐院校。据统计，到1962年，外侨在哈建立的音乐学校有近30所，这也是全国第一批西洋音乐院校。中国最早的高等音乐院校（哈尔滨格拉祖诺夫高等音乐学校、哈尔滨第一音乐学校等），以及中国第一支交响乐团都诞生在哈尔滨。“中国·哈尔滨之夏音乐会”（与上海之春国际音乐节、广州羊城音乐花会并称为中国三大音乐节）是中国举办时间跨度最长的国家级音乐节。

学院依托中俄战略合作背景和哈尔滨音乐文化传统，秉持高起点办学优势，明确精英式人才培养办学定位，打造国际化办学尤其是对俄合作办学特色，正在逐渐成为黑龙江省乃至中国音乐艺术人才培养新摇篮，以及中俄两国高等教育和文化艺术交流新载体。

学院坐落在美丽的松花江北岸，哈尔滨市松北区丁香大道延长段东侧、学子路北侧，与哈尔滨文化新地标——哈尔滨大剧院遥相呼应。学院占地面23.6万平方米、建筑面积6.84万平方米。校园内文化氛围浓厚、生态环境优良，主教学楼、音乐厅、图书馆、实训楼等主体建筑具有鲜明的俄罗斯建筑艺术风格，兼具美感与实用功能，与音乐学院的文化特质相得益彰。

在哈尔滨组建一所独立设置的音乐高等院校，是哈尔滨乃至黑龙江人民几十年的梦想。2013年11月，黑龙江省委、省政府基于落实国家对俄战略、弘扬区域音乐历史文化传统、助推黑龙江与内蒙古东北部地区延边开发开放、优化全省高等教育布局结构的全局考虑，提出以哈尔滨师范大学音乐学院为建校基础，引进俄罗斯优质音乐教育资源，组建哈尔滨音乐学院，就此拉开了哈尔滨音乐学院的筹建序幕。经过近一年的全面推进，目前学院基础建设、师资队伍、学科专业、教学设施、合作办学、机构设置、经费保障等各项筹建工作均已就绪，并开始全面进入过渡性招生培养阶段。