1964年，为缓解牛栏山中学（现牛山一中）生源过多难以容纳的困难, 决定在牛栏山地区再建一所中学，即牛山第二中学。 　　1965年3月寒假后，从牛栏山中学拨初一、初二共计337人到牛山二中就读。同时有教师26人到牛山二中工作。当时只有初中学生。 　　1969年，牛山二中曾招收一届“农中”学生，开设了农机、农医和电工共三个班，学生总数46人。后又招收了3、4届。牛山二中的“农中”于1976年前后败落。 　　1971年春季，牛山二中增设二年制高中班，每届招收1-2个班。 　　1982年，顺义县进行中学的重新布局，把原顺义西北片的普通高中归到牛山二中，至此，牛山二中成为当时顺义县九所完全中学之一。80年代末，牛山二中学生数量达到千余人，教师数量100人以上。并新建教学楼和扩建了操场。 　　进入21世纪，学校发展更加迅速，全校维持在24－28个教学班，1100－1300学生，110位教师。 　　2009年顺义区进行高中的重新布局， 7月我校高中师生合并到牛栏山一中，只留下初中部，到2009年9月暑假开学，学生总数77人，教师36人。由完中校转为初中校。 经过40多年的建设和发展，现已成为顺义区规模显著、设施齐全、影响颇大的一所农村普通完全中学，也是顺义西北片唯一的农村普通完全中学。我们学校具有先进的办学理信念、精良的师资队伍、一流的办学条件、完善的教学设施，学校占地79亩，建筑面积11000平方米。实验室、专用教室、语音室、计算机房、卫生室、音像电子室、多功能教室齐全，学校有广播站、电视台，校园网等。现代化的教学设备为来我校学习的每一位学子提供了良好的条件和全方位的服务。学校拥有一支精明强干、务实高效、廉洁奉公、精诚团结的领导班子。更拥有一支政治素养好、专业素质高、真正爱学生、教学能力强、处处讲奉献的教师队伍。校长段克成协同校领导班子成员，以超前的意识和敢为人先的精神，带领全校教职工用思维开发思维，用心灵唤醒心灵，用智慧启迪智慧，领导全体教师开发学生的潜能，塑造学生的人格，建设完全的文明，真正做到全员育人，全程育人，全面育人，让知识积淀为智慧，使文明积淀成人格。

目前，我校招收牛山地区小学毕业生和牛山地区外地借读生。