据悉，抗日战争爆发前后，红军在西北的数万人被改编为八路军，在南方的万多人被改编为新四军。
八路军很快渡过黄河，开往前线抗日，主要活跃在山西和河北这两个地区。新四军则主要活动在安徽和江苏这两个地区，也未曾来到山东。此时的山东地区，没有任何八路军或者新四军的武装力量。山东省的抗日队伍以韩复榘为首，全军不下10万人，包含海军一个舰队。却说日军攻占河北以后，迅速集结重兵沿着铁路线杀入了山东。韩复榘也曾经率领部队奋勇抵抗，但是所部损失不小，很快被日军击溃。他作为一个军阀，被吓破了胆，为了保存实力，于是先后放弃济南、泰安、济宁等地。他的主力部队，迅速撤到河南和山东交界处的巨野和曹县等地。日军占领山东以后，无恶不作。此时的齐鲁大地，暗无天日，几乎变成一个人间地狱。
在这个时候，我党以黎玉为首的山东省委积极响应北方局发出的“脱下长衫到游击队去”这一号召，迅速派出大批党员到山东各地策划抗日武装起义。中央也派出一批红军干部来到山东，和这些地下党员合作，例如张经武、廖容标、杨国夫等人。日军由于兵力不足，只占领了城镇和交通线，广大农村因此成为真空地带。在这个背景下，我党领导下的抗日武装很快发展到4万人。
1938年年底，我军成立八路军山东纵队，由张经武和黎玉分别担任军事和政治主官。张经武身经百战，在红军时期曾经担任过军委教导师师长。黎玉则长期从事地下工作，非常熟悉北方的人文和自然地理环境。山东纵队虽然很快发展到4万人以上，但是存在许多问题，例如：部队比较新、缺乏作战经验，思想比较混乱、训练水平不高、广大官兵的政治和思想素质也不高……
同时，山东各地的国民政府、地主豪绅、土匪流氓也乘机拉队伍抢地盘，很快发展到5万人以上。无论是数量还是武器装备，他们的队伍都已经超过山东纵队。在这个背景下，黎玉等人向中央多次申请，要求八路军派出主力部队去支援山东地区的抗日队伍。由此可见，张经武和黎玉等人非常有远见，而且有大局观，不搞本位主义那一套东西，他们都是我党我军的优秀干部。
1938年，八路军第115师第685团第2营已经发展为一个支队，即永兴支队。支队长是曾国华，副支队长是龙书金，这个支队有上千人。第129师工兵连和抗大一些干部，被扩编为八路军津浦支队，孙继先担任支队长。这两个支队奉命作为先锋，进入山东北部和河北交界的地方。同时，八路军第343旅政委肖华率领一些干部也来到这里，这些干部有上百人，例如邓克明和符竹庭。
当肖华来到乐陵以后，立刻成立冀鲁边军政委员会，并且组建八路军东进抗日挺进纵队。据统计，肖华带到山东的八路军不少于2100人。这些部队和当地抗日武装被合编为八路军东进纵队，全军不下7000人。到了1939年夏天，肖华的部队已经发展到2万多人，控制15个县，也就是著名的冀鲁边根据地。1944年，冀鲁边八路军主力和清河根据地的部队被合编为八路军渤海军区。
随后，八路军第115师第685团在团长彭明治和政委吴法宪的率领下，来到山东微山湖以西地区。这支部队从晋西到山东，全程行军不下2500华里，中途还配合八路军第129师粉碎了日军对山西辽县的进攻。据统计，这个团来到山东的时候有不下4000名官兵。来到山东以后，这个团被扩编为一个支队，也就是著名的八路军苏鲁豫支队。并且，这个支队很快发展到1.2万人以上。
八路军苏鲁豫支队在微山湖西部和安徽北部发展很快：期间留下第四大队和其他一些部队，继续留在山东微山湖以西地区，负责人是梁兴初。在皖北的部分官兵，后来被编入新四军第4师。主力奉命南下，后来被改编为3个团，又被编入黄克诚的新四军第3师。可以说，八路军和新四军至少有三个旅，老底子都是这个支队，三个旅的代表分别是梁兴初、张爱萍、彭明治和吴法宪。
接着，八路军第115师师部和第686团等部在陈光和罗荣桓等人的率领下，来到山东郓城附近。粗略统计，这支部队不下3000人。在郓城，八路军迅速围歼当地伪军保安团，歼敌800余人。然后，我军在陆房附近粉碎日伪军8000多人的围攻，歼敌过千人。这支队伍，其主力很快被扩编为一个独立旅，由第686团团长杨勇担任旅长。1940年，八路军第115师独立支队也来到山东。
另外，八路军第344旅代旅长杨得志率部来到河北、河南、山东三省交界的地方。杨得志的部队被改编为八路军冀鲁豫支队，下辖三个大队有不下2000人。很快，这个支队发展到7000人以上。但是后来，这支部队的主力被黄克诚带走，来到华中地区并被改编为新四军。所以说，严格意义上，这支部队和八路军山东军区的关系不大。不过，毕竟有一些官兵留在了山东军区。
总结下来到山东的八路军有哪些部队：曾国华支队，前身是八路军第115师第685团的一个营，有上千人。孙继先支队，前身是八路军第129师工兵连，也有不下千人。肖华率领八路军第115师的100多名干部来到山东，开辟了冀鲁边根据地。陈光和罗荣桓率领第115师师部和第686团来到山东西部，全军有不下3000人，另有第685团4000多人和第115师独立支队不下3000人。
加起来，八路军先后派出不下1.2万主力部队来到山东地区。到了1940年冬天，八路军第115师在山东的部队，已经发展到7万人以上，下辖6个教导旅。第1旅旅长彭明治，老底子是八路军苏鲁豫支队。第2旅旅长曾国华，老底子是第115师独立支队和苏鲁豫支队各一部。第3旅旅长杨勇，老底子是陈光带来的八路军第686团。第4旅旅长邓克明，老底子也是八路军第686团。
第5旅旅长梁兴初，老底子是八路军苏鲁豫支队一部。第6旅旅长邢仁甫，老底子是冀鲁边八路军主力。在山东，山东纵队和八路军第115师的矛盾很深，主要体现在领导权之争上。中央一度派出徐向前和朱瑞来到山东，奉命指挥山东和苏北的所有部队，以缓和山东纵队和第115师的关系。但是徐向前和朱瑞失败了，两人先后回到延安，罗荣桓则成为山东八路军最高指挥官。
此时的山东军区，负责指挥山东境内所有八路军。罗荣桓担任司令员兼任政委，黎玉担任副政委，肖华担任政治部主任，李作鹏担任参谋处长执行参谋长的职责。山东军区下辖6个军区，分别是王建安的鲁中军区、许世友的胶东军区、杨国夫的清河军区、邢仁甫的冀鲁边军区、陈士榘的滨海军区、张光中和王麓水的鲁南军区。我军在山东一度撤销旅的编制，下辖13个主力团。
1944年，清河军区和冀鲁边军区被合编为渤海军区，由杨国夫担任司令员。到了抗战胜利前后，山东军区已经发展为5个军区，共有22个军分区。我军在山东有3个教导团、18个独立团、24个基干团、4个独立旅、2个支队、1个海军支队、113个独立营（县大队）、800多个区中队，总兵力有27万余人。山东的民兵和自卫队发展到不下200万人，冀鲁豫军区也发展到10万人上下。
据统计，山东军区前后歼敌不下30万人，自身损失则不下15万人，山东平民损失不下300万人。抗战胜利后，山东军区在罗荣桓等人的指挥下，先后派出不下6万主力部队来到东北。另外，新四军第3师约3万人也来到东北，这个师有一个旅的老底子就是山东军区苏鲁豫支队。另外，山东军区有数万人成为第三野战军的老底子。山东地区，为共和国的成立作出了不可磨灭的贡献！
著名的第38军、第39军、第40军、第41军、第43军、第26军、第27军、第31军、第32军……老底子都是八路军山东军区主力部队，或者有部分部队来源于八路军山东军区。另外，在抗战期间有无数山东人参加八路军或者新四军，山东人遍布全军遍布全国的各个角落。山东兵给人的印象是比较勤奋、忠诚、勇敢、团结、拼命……所以，他们在后来成为继老红军之后新的主力军！
