1937年10月，中国共产党同国民党谈判达成协议，将在江西、福建、广东、湖南、湖北、河南、浙江、安徽等八省坚持游击战争的红军和游击队，改编为国民革命军陆军新编第四军，叶挺任军长、项英任副军长。1937年12月25日，新四军军部在湖北汉口成立。1938年1月6日移驻江西南昌，开始建立工作部门。新四军军部，设有参谋处、秘书处、副官处、军需处、军医处、兵站处、军法处、后方留守处和政治部等。

皖南事变后，根据中共中央军委1941年1月20日的命令，在江苏盐城重建新四军军部，设司令部、政治部、供给部、卫生部、军工部等。抗日战争胜利后，1945年10月28日，新四军军部北移山东临沂，并从12月3日起兼山东军区领导机关。1947年1月21日，根据中共中央军委决定，新四军兼山东军区机关及所属部队改为华东军区和华东野战军，新四军番号取消。新四军兼山东军区领导机关与华中军区领导机关合并，成立华东军区领导机关。新四军在成立后的近10年内，先后在湖北、江西、安徽、江苏、山东等地建立过军部。2013年5月，临沂市河东区新四军军部暨华东军区、华东野战军诞生地旧址等文物点，被国务院公布为第七批全国重点文物保护单位。