三起三落坎坷的军事生涯
西路军失败后，徐向前背着失败的黑锅，和西路军幸存者以及几乎所有四方面军指战员一样，饱受歧视，直到1943年，他才被认定为“可以信赖”。红军改编八路军时，他被降级使用，任命为第129师副师长，成为刘伯承副手。华北危急关头，他被派往山西，先与阎锡山开展“统战”工作，为八路军山西抗战营造政治、经济和社会环境，后亲自指挥第129师部队，“占山为王”，他严格要求“像鄂豫皖初期那样，发动群众，主力部队和地方武装结合，搞游击战。”“要珍惜力量，注意研究日军的战术特点，积小胜为大胜，决不可死打硬拼。”亲自指导第769团抓住战机，夜袭日军机场阳明堡，毁敌机24架，歼日寇100余人。根据太原失陷前后敌人进逼的形势，他作出计划，分兵发动群众，扩大武装力量，组织游击网络，建立地方抗日政权，部署以大部兵力下到各县区，以连为单位，配上几名领导骨干独当一面。结果，不多久，一支又一支抗日游击队、一个又一个抗日民主政权如雨后春笋，铺展在晋东大地。
与此同时，他从实际出发，根据敌我具体情况和山地游击战的特点，总结和制定了一套“小打而不能大打、活打而不能死打、快打而不能慢打、稳打而不能蛮打”敌后游击作战的原则，相继直接组织指挥和参与组织指挥了广阳沾尚地区伏击战、反敌六路围攻作战、凤凰山伏击战、长生口之战、神头岭伏击战、响堂铺伏击战、长乐村急袭战、反九路围攻作战等一系列游击作战，收复县城近20座，控制晋东南地区，基本形成了以太行山区为中心的晋冀豫抗日根据地。
1938年春，徐向前奉命前往冀南。冀南位于平汉路东的华北平原上。过去中共军队作战主要依托山地，如今冀南没有山，平原上能否开展游击战争，建立敌后根据地，也成为了中共党和武装的新课题。徐向前反复研究了当地的地形、民情条件，响亮地提出了“创造平原地的‘人山’”的口号，也就是发动群众，争取人心，把人造成“山”。冀南造“人山”成就斐然，成功解决了平原地区建立和巩固敌后抗日根据地，开展和坚持游击战争的重大问题。与此同时，徐向前又运用军事斗争和统一战线两个手段，在几个月时间内，相继解放了县城20多座，消灭日伪军1万余人，争取伪军反正5000余人，收编杂色武装8万余人，使主力部队发展到10余万人，游击队和民兵武装20余万，建立了50余个县政权，平原根据地拥有人口800余万。之后，又利用“人山”优势，连续取得了粉碎日伪军大“扫荡”和国民党顽固派“摩擦”的斗争胜利，冀南部队越战越强，平原根据地越来越巩固。
1939年5月，徐向前奉中共中央命令前往山东，统一指挥山东和苏北的武装斗争。位于太行山以东、黄河下游、东海之滨的山东半岛，是联结华北、华中、东北的枢纽，为历代兵家角逐争雄的战略要地。当时，中共虽然在山东已有几支抗日武装，但力量薄弱且分散，而对手日寇或国民党顽固派都强大得多。就政权来说，山东有日伪的，也有国民党的，但就是没有中共的抗日民主政权，群众也尚未充分发动，以致中共的数万部队吃饭都难，每天“叫化子要饭”。面对敌伪顽的疯狂进逼，八路军在山东处境困难，甚至有被挤出或消灭的危险。处于严重困难的山东，缺少一位独当一面的帅才!
6月上旬，徐向前到达山东沂蒙山区，刚好赶上日寇发动的第一次“大扫荡”，日寇2万余人，兵分10路合击，国民党军望风而逃，徐向前马不卸鞍，立即投入反“扫荡”的作战指挥。反“扫荡”作战胜利后，即大张旗鼓地开展建立政权和发展武装力量工作。半年之后，山东境内公开建立了40多个抗日民选县级政权及一个行政主任公署，到1年时，县级政权达90多个，其秘密的基层两面政权多得无法统计，各种抗日团体遍布城乡。
同时，徐向前大力发展武装力量，高度重视质量建军，严格教育训练，力争打好每一仗，在作战中锤炼部队。他在山东的1年期间，山东部队共进行大小战斗2000余次，毙伤俘日军松井山村中将以下近2万名，伪军2.5万余人，使日寇的一次次“扫荡”均告破产，反对国民党顽固派的“摩擦”斗争也连续胜利，一些“摩擦专家”被挤走。尤其重要的是，在徐向前指挥下，山东那些原本“杂散”的新部队迅速成长为一支善打硬仗的铁军。“在战术思想、指挥艺术、战斗作风、组织纪律性等方面，获得了长足的进步”，为山东部队“向更大规模的游击战、运动战的方向前进，奠定了坚实的基础。”(徐向前语)
1940年6月，徐向前到达山东整整一年，山东面貌大变，它以拥有人口1500万，八路军正规军15万人，地方武装50余万人的实力，成为了中共在全国第一大抗日根据地。正当徐向前计划再展宏图，将苏北、皖北连成一片时，中共中央来电要求徐向前赴延安出席中共“七大”。
徐向前返回延安，“七大”并没有召开。远离抗战硝烟，徐向前越来越不自在，他希望重返战场，一再向毛泽东请求。可是，毛泽东却不希望他离开延安，先任命他为联防军副司令员，作贺龙副手，接着又委托他“集中精力抓好留守兵团的生产”，后来又要他去“抗大”当校长。在毛泽东战略棋盘中，山东太重要了。山东已经局面大开，现在必须由最信赖的“井冈山”来经营。于是，履历里尚无军事指挥历练的罗荣桓，破格地予以接替。抗战胜利后，罗荣桓率领山东大批人马进兵东北，山东位子一时空缺，毛泽东计划以另一个“井冈山”林彪接替。林彪一路兼程，向山东进发，尚在路途，毛泽东又一道命令到达，林彪转赴东北，此时的东北更为关键。而山东则由又一个“井冈山”陈毅接任，要陈毅从华中前来。
徐向前希望上前线，却在“无战事”的陕北，过着近似于“日出而作，日落而息”般的操事农桑的生活，终于徐向前病了。病中的徐向前，仍然向往上战场，一再向毛泽东请战，毛泽东也一再好言相劝。直到胡宗南进犯延安前夕，延安后方机关进行人员疏散，在被疏散途中，徐向前向中央写了报告，要求去晋东南，获得了同意。
1947年6月，徐向前到达太行山，被任命为晋冀鲁豫军区第一副司令员。该军区为徐向前于抗战初期战斗过的太行山、太岳山、冀南和冀鲁豫区域的整合而成，属当时全国六大战略区之一，军区司令员刘伯承，政治委员邓小平。刘邓此时正在邯郸等地作挺进大别山准备，接着于6月底率领野战军主力13万人渡河南进。8月中旬，陈赓、谢富治兵团8万余人亦开始向豫西挺进。8月和9月，南下后续部队第12纵和第10纵及补充兵员4万余人出动，向大别山开进，加入中原战场。
随着主力一批又一批部队加入中原战团，留在晋冀鲁豫军区后方的部队已寥寥无几，不仅原来的老红军老八路的第一茬部队全部走完，后期成长升编的游击兵团的第二茬部队也基本走完，留在军区后方的只有第二茬部队员额不足的一个旅，其余的就是小游击队和民兵。
