历史上的32军是由解放战争时期，山东军区下属的胶东军区的部分发展起来，前身是胶东军区前线指挥部新编的第五师、第六师，是纯正的胶东子弟兵。
胶东人民引以骄傲和自豪的是，胶东地区出了中国人民解放军四个军，分别27军、31军、32军、41军。32军虽然不像前面几支部队时间那么长，但是在整个解放战争期间起到了很重要的作用。
　　1947年，华东军区把山东军区所属的滨北和东海这两个区的各一个独立团还有胶东军区的特务团组成了一个师，这就是第五师。紧接着，又把胶东军区的南海、西海、北海军兵区各一个独立团组成了第六师。除了北海、滨海、东海这三个区的各一个部组成了第七师。
　　1947年9月，由胶东军区地方部队升级的新编第五、第六、第七师合编为华东野战军第十三纵队，各师分别改称第三十七、第三十八、第三十九师。

　　1948年10月，为了策应整个淮海大战，第五师和第六师在青岛和即墨地区封锁和监视了国军，对从青岛和即墨的国民党军给予了有力反击。
1949年2月，中央军委统一全军编制，胶东军区前线指挥部第五师、第六师就改编为第32军，首任军长谭希林，政治委员彭林，副军长刘涌，参谋长赵一萍，李柱东任供给部部长。编成32军之后，原第六师改称94师，原来的第五师改称95师。
　　山东军区就以32军主力为部队，连同当时其他的地方部队一起进行了青岛、即墨战役，组成前线指挥部时，许世友兼任这个部队的总指挥，谭希林和刘涌为副总指挥。
当时他们分三路向青岛进军，东路是经即墨城东，直插崂山；中路是沿着即墨西北的延庆公路直去青岛；西路是沿交际铁路两侧向青岛开进。他们连续突破敌人三道防线很难的防线。

　　在突破第二道防线时，中路部队94师的要攻击“巡虎山”，当地地势非常险要，敌人在山上构筑了大小地堡数十个，易守难攻，战斗非常激烈。团里的一营部队从阵地的右侧穿过封锁区来到峭壁下，搭起人梯攀登山顶，准备从侧翼袭击敌人阵地，摧毁敌人对我正面部队的火力点。
　　有一个班的班长——徐雪武（音译）率先登上了悬崖，但是被敌人发现了，最后只有5、6个战士爬上了山顶，炸毁了敌人的地堡。他们为部队开拓了道路，同时用缴获的火器朝敌人开火，很快攻下了“巡虎山”。而后，一鼓作气打下了后望山和蝎子山，战后徐雪武（音译）班长记了一等功，而且成为了32军推举的唯一一位参加全国战斗英雄会的代表。
　　青岛、即墨战役历时一个月，共歼灭敌人5700多名，其中毙伤敌人2200多名，俘虏近600名，缴获了大量枪炮弹药和武器装备。

　　1950年年初，山东军区警备四团、五团、二团、三团各一部组建了96师，而后加入了32军。至此，32军就是94、95、96这三个师。他们又从青岛南下福建，执行剿匪任务。接连参加大小战斗300多次，歼灭匪特8000多人，有利地配合了福建地区的土改和剿匪。
　　在这个期间，94师和31军一起参加了解放东山岛的作战，拿下了东山岛。

　　1950年年底，32军撤销，它的机关部门一部分分充实到了第八兵团的兵团部，另一部分和原来的29军部合编，成了铁道公an司令部。
它下属的三个师，94师奉命编入了中国人民志愿军战斗序列，参加抗美援朝，归志愿军第27军指挥，后来正式调归27军建制。在抗美援朝中，94师参加了围攻美国海军陆战第一师的柳潭里战斗。
当时南苑机场组建空14师，95师归入空军。空14师组建之后立即入朝参战，1958年出现了全国著名的英雄模范人物杜凤瑞。1964年国发部曾经授予杜凤瑞生前所在的这个中队为“杜凤瑞英雄中队”。
96师调回福建军区的建制，和其他部队合并组建了中国人民解放军铁道工程第七师，也就是后来的铁道兵七师，“铁七师”。

许世友带出的部队不管在哪里个军兵种都是最好的部队。

许世友麾下的部队，基本都是主力之主力，在哪里都是好样的

青即战役，以三万人打6玩国军，以及两万美军，没有足够的谋略水平是不可想象的

英雄的人民，英雄的战士，英雄的指挥官

从山东达到福建，怎么没有“煎饼大葱”的困惑呢？奇怪了啊

毛批评的是苏中部队，而不是山东部队：
1946年八月一日，陈毅致电毛:张邓谭粟舍不得苏中，以主力在该地打转，实际上淮南在全局上比苏中更重要，此道理以前讲过多次，讲不通。现住粟如在海安、东台再打几个胜仗，恐仍不能退敌，值得考虑一下。……在粟裕文选中删去了
八月六日，毛回电:目前大战方在开始，粟部多少带地方性，此种情况不能不顾到。