学校具有光荣的革命历史，她的前身是1941年八路军总司令部在太行抗日根据地创办的我党我军第一所兵工学校——太行工业学校，历经抗日战争和解放战争的洗礼，饱历沧桑，薪火相继。1949年学校迁至现址，1958年升格为太原机械学院。后经国务院和中央军委批准，北京工业学院（现北京理工大学）4个常规兵器专业和沈阳工学院（现沈阳理工大学）2个常规兵器专业相继迁入，学校成为当时国内常规兵器专业最为齐全的高等学校，规模和整体办学实力也得到了充实和提高。1963年学校划归国防科委直接领导，是当时国防工业八大本科院校之一。1971年归属第五机械工业部，1993年更名为华北工学院。1999年成为国防科学技术工业委员会与山西省人民政府共建的高等学校。2004年6月经教育部批准更名为中北大学。