上海市音乐幼儿园成立于1984年10月,由香港爱国同胞刘浩清先生和夫人孔爱菊女士提供私宅,由上海市妇女结合会兴办,是本市优先所音乐幼儿园。1989年与黄浦区淮海东路幼儿园合并，迁址淮海东路6号，隶属于黄浦区教育局领导。1996年合并原江西中路幼儿园（汉口路126号）成立分园。2005年7月，因为分园园舍陈旧，条件设备跟不上进步要求，经教育局批准关闭分园。 2007年11月为了迎接世博配合人民路越江隧道工程，音乐幼儿园迁址至厦门路180号。2010年音乐幼儿园被评为上海市示范性幼儿园。
上海市音乐幼儿园已持续七届被评为市级文化单位，1998年被评为上海市“三八”红旗集体，2001 年被评为上海市劳模集体，2004被评为全国女职工先进集体，幼儿园还曾获得上海市办园成果显着单位、上海市绿化先进单位等好评名称；上海市语言文字规范化示范校；园党支部也被评定为黄浦区一级党支部。幼儿园坚持以科研推进教育的进步，是EPD学校、区科研先进集体，是一所社会名誉很高的品牌幼儿园。
现在的音乐幼儿园设有大、中、小三个年龄段，将近有250名幼儿。拥有整洁、舒适、优雅的环境。幼儿园设有多性能活动室6间；专用活动室17间；户外运动场地面积250平方米。每班配置了一活动室、一卧室、一盥洗室，设置了专注于的幼儿餐厅，还有内容充足、丰富多样、适合各年龄特点的玩具、图书、操作物料及必要的多媒体教学设施，而且应用率高。
幼儿园拥有一支布满朝气、富于挑战、多才多艺的老师团队，全园在岗教工共32名，其中行政2人、老师20名、大专学历8名，本科及本科在读12名，研究生1名，全部达到规定学历。后勤职工10名，做到了持证上岗。全园老师中共有党员13名，占老师总数的59%。100％老师向党组织递交了入党申请书。每位老师把握两门以上乐器，艺术素养精深。老师们师德高尚，乐于学习，敢于在实践中探索与开辟，是音乐幼儿园一道令人称赞的风景线。
办园廿多年来，音幼始终坚持“全面+特色”的办园方针，使音幼的孩子能在幼儿园常规教育课程学习中得到全面进步，还能在以器乐启蒙为主的音乐课程学习中获得音乐素质的提高。幼儿学习的乐器内容包含钢琴、小提琴、琵琶、柳琴、二胡、扬琴、古筝等。特聘了上海音乐学院、上海师范大学和各区青少年活动中心共40余位、教授按期为幼儿园的音乐专业教学把关，使幼儿获得了“全面+特色”的综合进步。
