兵工署是国民政府时期统管全国兵器工业的专门机构。1928年8月,国民党第二届中央执行委员会第五次会议决定在行政院下设军政部,兵工署即为军政部下属各署之一。同年11月11日,兵工署在南京杨将军巷正式成立;12月11日,国民政府公布《军政部兵工署组织条例》,规定其执掌全国兵工及一切兵工建设事宜,署内分设总务、设计、检验、监查四科,另设兵工研究委员会和兵工材料购办委员会,张群兼任研究委员会主任委员,李待琛出任设计科科长。
九一八事变前后,兵工署直接管辖汉阳、金陵、济南、巩县、华阴、上海六座兵工厂,另有德州、开封两处小厂及上海炼钢厂,各厂多沿袭洋务运动时期旧设备,械弹制式杂乱、性能落后。1932年一·二八抗战后,依据《上海停战及日方撤军协定》,上海兵工厂被撤销,机器分拨宁、汉、巩三厂;德州、开封两小厂亦裁撤,设备移交济南兵工厂,华阴兵工厂于1933年停办。1933年俞大维接任署长后改组内部机构,设本部及资源、行政、技术三司和若干专门委员会,并着手在河南巩县筹建军用化学厂。
全面抗战爆发后,兵工署于1937年11月下旬撤出南京,经武汉暂驻,1938年1月迁长沙,同年10月转移至重庆,本部设于中山一路勤居巷,化名“斌记行”,并在西安、香港、昆明、贵阳、缅甸仰光、印度等地设立办事处或通讯机构,统筹各厂内迁与军火生产。抗战胜利后迁回南京,改隶国防部联合勤务总司令部。