抗日战争结束后，不仅蒋介石聘用了以冈村宁次为首的战犯充当军事顾问，以阎锡山为首的地方军阀也收罗了日军残部继续与我军对抗，甚至暗地里还有军统特务策动滞留日本侨民与暗藏的军国主义分子发动通化暴乱。国民党方面利用日军残部的巅峰，要数臭名昭著的“十总队”了。当年，在阎锡山的庇护下，4000余名日军在山西继续为非作歹多年，直到太原解放，这支日军才终于被徐向前元帅所率领的解放军彻底消灭。
都是老熟人——阎锡山与日军的关系
山西地方军阀阎锡山联合日本人进攻我军的历史，可以追溯到抗日战争时期。解放战争时期搜罗日军残部，继续与我军作战，实质上完全是抗日战争的延续。
采用米轨的同蒲铁路（大同至运城）
在早年主政山西之时，阎锡山就有一直秉持着门罗主义原则，要把自己的地盘打造成一个能自给自足的独立王国，建立独立于南京国民政府之外的军事和工业体系。于是，就有了今天大家常常调侃的民国年间山西铁路用米轨，与相邻省份用标轨不一样的情况。
民国年间军阀混战的中国是一个非常落后的半封建半殖民地的农业国，要搞工业只能从国外引进技术和设备。为此，阎锡山从日本、德国、法国等列强进口了包括煤矿、冶金、纺织、化工、机械制造、铁路等等在内的诸多轻、重工业设备。众所周知，山西是个产煤大省，煤矿自然是支柱。当时阎锡山引进的以大仓矿业会社为中心的机械与日籍技术人员，就与日本垄断财阀关系密切，其中不乏关东军高级参谋河本大作一类的人物。
在抗战前就具备火炮生产能力的太原兵工厂
在1937年七七事变爆发，日本开始全面侵华战争后，为了维护自身的利益，阎锡山曾派遣有日本留学经历的亲日派苏体仁和靳瑞宣密赴天津，与梅津美治郎交涉，希望以山西“中立”为条件，换取日军不要进攻山西。但是，觊觎丰富自然资源已久的日本人根本不当理会，兵锋直指山西。
在抗日战争进入相持阶段后，日军为了减少战场压力，又开展了代号为“对伯工作”（阎锡山字伯川）的劝降工作。迫于统一战线的压力，阎锡山不敢公然投敌，但是又希望利用日本人的关系为自己牟利，于是派遣有留日经历的曲宪南与日军接洽，同时又利用大仓矿业的社员林龟喜与日军保持联系。
侵占太原的日军
1941年8月11日，阎锡山派出第七集团军总司令赵承绶与骑兵第一师师长赵瑞，在汾阳与日本第一军司令岩松义雄密会，签署所谓《汾阳协定》联合日军进攻八路军。之后在1942年，阎锡山本人更是直接前往汾阳与河本大作密会，商讨“剿共”事宜。在随后签署的协议中表示，晋绥军与日军停止交战，双方互不越过当前控制区的界限，对在山西的八路军共同采取行动。
之后，阎锡山直接派遣他的妹夫梁綎武前往太原常驻，负责与日军的联系。之后，日军第一军下属的三十七师团和四十一师团很快也与当面的晋绥军划定界限，并在师团司令部所在地运城和临汾设立联络处，负责协调与晋绥军协同进攻八路军的行动。同时，阎锡山利用特务组织，大肆捕杀共产党员、进步人士，落实相关协议内容。
到了1943年，阎锡山方面更是变本加厉，在日军的要求下，竟然派出官员到敌占区担任伪职，而且一次性就派出40余行政人员，前往五台、交城、沁县等我军积极活动的敌占区域，协助日军的封锁和扫荡。
与日军合影的伪官员
1942年2月，阎锡山“联日反共”到了登峰造极的地步，他命令手下的骑兵第一师师长赵瑞和第二师师长杨诚，以率部投降的方式开赴上党投靠日军，充当伪军进剿八路军。1944年，日军任命赵瑞为“山西省保安副司令”，掌握全省的“保安队”（伪军），和晋绥军一道与八路军作战。到了1945年，日本彻底穷途末路之时，因为无力为“保安队”发放足够的弹药，于是联络阎锡山代为补充，而日军则以占领区生产的棉布和其他工业品作为交换。
八路军在反攻中收复武乡县城
在日本投降前夕，为了和八路军抢地盘，阎锡山责成其心腹，有留学日本经历的徐士珙创立所谓“亚洲民族革命同志会”，在孝义县城设立办事处，向日占区的日军、日本侨民投寄信件宣传鼓动，以“中日两国人民共同驱逐英美，防止赤化，让亚洲人掌握亚洲”的旗号，号召日本人支持阎锡山的反共活动。徐士珙更是公开承诺，即使日本战败，与阎锡山合作的日本人也会继续享受“同志”式的待遇。而此时的日军并不甘心投降，还在垂死挣扎，妄图保存自己以待有朝一日东山再起。
向八路军受降的日军
在1945年8月9日，毛主席发出《对日寇的最后一战》的号召后，在山西的日军第一军部队一面负隅顽抗，不向八路军缴械投降，一面又私下联络阎锡山准备投靠。经过交涉，最终日军决定将部队和侨民向太原集中，把所有武器、物资与生产设施交予阎锡山。
破碎的军国主义春秋大梦——“残留”日军与日侨的形成
1945年8月底，阎锡山回到太原后，在会见日军第一军参谋长山冈道武时，就直接提出希望将投降的日军纳入麾下，山冈道武则当即表示可以考虑。随后，阎锡山派遣变身为省防第二军军长的赵瑞为代表，与日军交涉改编问题，同时指认岩田清一担任日军代表。在日本投降前，担任伪山西省政府顾问的城野宏则作为翻译参与协商。
期初，阎锡山打算直接把日本第一军编入晋绥军，但是岩田清一断然予以拒绝，并表示：“日本军是天皇的军队，所以不能以司令长官的意志将其改变为阎军，但是可以采用适当的方法满足贵方的要求。”最终，日本第一军司令澄田赉四郎达成了以下方案：
1.对愿意参“残留”日军官兵，先按照“就地复员”的方式改变为“平民”身份，再由阎锡山当局以“个别人”的形式重新招募，进入晋绥军系统；
2.阎锡山当局对“残留”日军予以优待；
3.在日军主力在复员遣返回国之前滞留山西期间，负责训练晋绥军部队。
等待受降的日军
为了使日军能安心“残留”下来，阎锡山又责成梁綎武与岩田清一和城野宏合谋，决定将日籍的企业技术人员、管理人员、商人以及作为结婚对象的妇女等一并“残留”下来，并开设供日本侨民与军人家眷使用的学校、医院、商店、娱乐场所、文化设施等，安排专门的生产设备和物资供应，满足日本人的饮食和日用品需求。同时，在日本军人、侨民中加大宣传“残留”的传力度，号召更多的人“自愿残留”下来。
由城野宏执笔，岩田清一组织印刷的“残留”宣传册的主要内容是：
“由于战败，日本被外国军队占领，丧失了独立。恢复独立，复兴祖国是我们的责任。战后的中国已经是亚洲最重要的力量，对于日本问题有很大的发言权。我们有条件借助中国复兴祖国。我们现在身居中国，阎锡山热烈希望日本人予以合作，并保证向日本提供援助。凡希望实现祖国独立复兴的爱国志士，都应决心残留山西，同阎锡山携手合作。”
当然，这只是表面的说辞，日本人的真实想法是：
如果共产党在中国取得胜利，不仅日本侵略者的一切势力都将被彻底赶出中国，再次发动侵略战争将极为困难。而让阎锡山继续统治山西，日本可以继续向这里输出资本，可以一面倾销商品，一面攫取山西丰富的煤炭、铁矿等战略资源。尤其是煤炭，完全足够日本本土的使用。只要“残留”的日军成为阎锡山的支柱，与中国共产党相抗衡，日本人在阎锡山面前就会有很高的话语权。再结合“残留”的工厂、矿山等企业的技术人员和管理人员，就能在经济上把山西变成日本的殖民地。通过对殖民地的剥削，获得经济上的恢复与发展，将有机会重建“大日本帝国”和“大东亚共荣圈”。
抗战期间日军在华大肆进行经济掠夺
当时在山西的日本人群体整体上非常迷茫。有的人不愿意放弃多年来在中国抢夺来的钱财；有的人不愿失去军国主义时代军官的优越社会地位；有的人担心回到已经是一片废墟的日本难以维持生活；有的人被定为战犯恐惧即将到来的审判......于是在受到鼓动后，很多日本人就选择了“残留”。而为了笼络日军军人，阎锡山推出的《留用日籍军人优待办法》承诺：“残留”日军士兵立即享受军官待遇；军官直接连晋三级；军人“残留”签署合同并以美元发放薪资，并可以寄回国内，家属也可以来中国陪同；“残留”签署合同，为期2年等等。
不过，选择“残留”的日本人也不都是死心塌地的要为天皇尽忠，其中不乏脑子“灵光”的投机钻营者。一些日本商人勾结阎锡山的手下，开办工厂、商社、饭馆、咖啡店等乘机大发横财。一时间，太原城内遍地都是日本人开设的店铺，俨然一副“第二大阪”的情景。
太原街景（注意左下身着日本军服者）
一些“残留”日军为了获得更高的地位，绕过第一军系统自立门户。例如原青岛特别市警察专员，日本投降前夕才被强征入伍来到山西的一一四师团预备役少尉古谷敦维，就拉拢流散的无业日本侨民，与梁綎武沆瀣一气，成立所谓“铁道护卫总队”，并自任队长。而阎锡山居然认为这样有利于让更多的日本人“残留”，还大开绿灯提供便利，于是在阳泉的日本煤矿工警队，在五台县的原日本合作社纷纷被纳入“护路队”旗下。而原来从事建筑和电报电话的日本人，也被纠集起来变身土木工程队和通讯队。“铁道护卫总队”由此达到4个大队、2个专业队，一共1300人的规模。
护路队部署在同蒲铁路沿线
为了网罗更多的日本人加入，阎锡山当局还勾结日军人员成立所谓“日侨职业介绍所”，不仅在从大同撤退到太原的日本侨民和复员军人中招募人员，还远赴石家庄和北平宣传，为所谓“特训团”和“护路队”招兵买马。
在侵略者和战犯的基础上组建军警武装已经够夸张了，认贼作父与日本人大搞特务活动更是天理不容。原日军第一军参谋部的文职人员指田国福与阎锡山手下的特务头子梁化之狼狈为奸，勾结数十名日本人成立所谓“资源调查社”，以勘查自然资源为名，利用遗留的原日军情报网，秘密搜集解放区的各类情报。更让人意想不到的是，这个“资源调查社”不仅对外，同时还对内。指田国福派遣手下混入“残留”的日军中做眼线，专门监视其中日本人的动向，一但发现有对阎锡山不满、对共产党表示同情的人，立即通知梁化之的“特种警宪指挥处”逮捕处决。
傅作义（左）与赵承绶（右）
“残留”日军不仅为阎锡山干活，还暗中向蒋匪示好。岩田清一和城野宏通过赵瑞的关系，私下会见了南京国民政府的代表。而国民政府的代表居然表示：
“从日本投降开始，日军与国军就是值得信赖的盟友了......双方的斗争目标是共产党和苏联......要配合美国准备第三次世界大战......”
而实际上收容日军“残留”也有南京国民政府当局一份。他们在北平、山东和东北接收了不少原日军人员，阻挠我军接收日军投降，并对我解放区开展各种渗透与破坏。
所以，在1945年9月9日在华日军正式投降之后，对于拒不交出武器顽抗到底的日、伪军，与共产党领导的八路军、新四军、华南抗日武装与之间的战斗一直持续到了1945年11月才告一段落。
光天化日之下的罪恶———“残留”日军的编制与构成
按理说在日本无条件投降，我方正式受降以后，原来的日军指挥机关就应该停止活动。可是，在国民政府的纵容以及利用下，直到1946年开始遣返复员日军的时候，日军在华的机关部门居然还在运行。
那些“残留”在山西的日军自认为还是“天皇陛下的军队”，依然按照过去的程序运作。而“残留”行动毕竟只是在山西的日军第一军做出的决定，此时还没有征求上级的同意，不能算是“合法合规”。
日本华北方面军总司令部参谋长高桥坦（左一前者）
于是，1946年1月，原第一军参谋长山冈道武乘机飞往北平，就在“残留”日军基础上组建“特训团”征求上级华北方面军司令部的同意。在获得批准后，第一军下属各旅团开始组建各自的“特训团”，总指挥由原日军一一四师团的师团长三浦三郎担任。
在日本投降时，第一军下辖有第一一四师团、独立混成第三旅团、独立步兵第十旅团、独立步兵第十四旅团等部队。
其中，一一四师团在投降时人数最多，战斗力最强，所以在参谋长太田黑的带领下于榆次和平遥各组建1个“特训团”；独立步兵第十四旅团在旅团长元泉罄的带领下，在晋中太谷组建第六特训团；独立混成第三旅团在高级参谋今村方策的带领下，拼凑了1200人，在忻州原平镇组建第七特训团；原独立第五警备队在阳泉组建第四特训团；各部抽调人员合计1300人在太原组建第一特务团；在大同由原坂本兵团的参谋长林丰大佐与大同煤矿的日籍干部荒木章组建兵力500余人的大同总队。
此外，还有一部分日本人作为“顾问”，直接编入了阎锡山的第四十九师以及机关枪团等部队。
身着国军制服的今村方策检阅部队
重新武装起来的日本人开始再次在山西各地飞扬跋扈起来。当地群众虽然怨声载道，但是却不敢声张。因为一旦对“残留”日军表示不满，就会遭到阎锡山派来的特务镇压，一时间整个山西人心惶惶。
好景不长，1945年底，国民党军多次向解放区发动进攻，内战一触即发。先前的几次试探，国军损兵折将没讨到半点便宜。眼看还没准备好，蒋介石当局便打着和平的幌子，在乔治·马歇尔的主持下，于1945年12月成立了所谓“军事调处执行部”，简称“军调处”，假意进行和平谈判，实则在美国的帮助下积极准备内战。
军调处的臂章和证件
在1946年1月10日达成所谓“停火协定”后，“军调处”就开始在各个冲突地点开展工作，监督停火。
在这种情况下，收编”残留“日军的事情败露，必然会对南京当局造成巨大压力。于是，1946年3月，阎锡山当局将“残留”日军组成的“特训团”暂时更名为“工程队”，把下属日军全部算作“西北实业公司”的留用日籍技术人员登记造册。
1946年4月，“军调处”三人组来到太原，发现了阎锡山留用“残留”日军事实，于是要求立即解散“特训团”，将全部日本军人复员回国。看在美国人的份儿上，无法继续掩饰下去的阎锡山当局只好假意应允，下令解散“特训团”。
但是，在宣布“解散”的同时，他还留了一个后手——“凡自愿残留者，本军不予限制”。这样一来，虽然“特训团”没有了，但很多日军基层官兵还是留在原地。随后，这些“自愿残留”者被安上了中国姓名，再次编入新的部队。
不过，下级军官和士兵好办，但没有中高级军官就有点问题了。没有高级军官指挥，这些“残留”的日军也没法作战。于是，他们又绕了一个弯子。当时，国民政府对国内关押的日本战犯，为了照顾他们的生活起居，就设立了一个“战犯世话部”，允许一部分现役参谋军官留下服侍。于是山西的“残留”日军就借由照顾战犯澄田赉四郎，留下了包括今村方策大佐、杉野俊三郎大佐、藤本秀雄中佐、岩田清一少佐、后闲章次少佐、赤星久行少佐等数十名中高级军官。而山冈道武则作为阎锡山的军事顾问留下。
遣返途中的日本侨民和战俘
不过，经过这一轮解散和重建，剩下的人数肯定大不如前。毕竟，此时第二次世界大战战争已经结束了半年，日本国内形势也陆续明朗。对于这一点，山冈道武表示一切尽在掌握——离开的是意志薄弱的，留下的是精华。
不过，最后的结果可并不好看。在接到解散命令之后，很多日本人还是选择了回国。最后，经过一番煽动、威胁、殴打和强制扣留，最终“护路队”和原“特训团”中一团至六团成员中“残留”下来的约有3500人。西北实业公司“残留”的有500人。第七团“残留”了150人，其中的中队长以下军官和曹长、军曹等士官大部分留下了。
在河北、山西工作的军调处人员
在“军调处”离开太原后，1946年5月，根据1945年12月制定的《特训团组建计划》中商定的协议，对“残留”日军进行了整编。今村方策和城野宏决定将原“特训团”和“护路队”进行合并，成立“山西省保安总队”，由阎锡山名义上担任司令，岩田清一以高级参谋的身份掌握实权。而抗拒整编的“特别警察队”被赵承绶勒令解散，人员编入“保安总队”。
所谓“山西省保安总队”，按照日军的大队编制，共设有第一至第六步兵大队和工程队以及通讯队，每个大队都配备山炮，可以独立作战。
“残留”日军在作战方面由岩田清一负责，在训练阎锡山部的军官上由山冈道武负责。山冈道武指派赤星久行为阎锡山部干部训练团的负责人，对晋绥军军官进行全套日式军事训练。阎锡山还按照日军甲种师团的配置，组建了所谓“亲训师”，并命令今村方策和岩田清一从“保安总队”抽调日本军官和士官组成“教官队”，负责士官学校的训练。
1946年10月，“山西保安总队”更名为“山西野战军”，直接参加了对解放区的进攻。然而，在英勇的人民解放军面前，这些法西斯匪徒遭受了惨烈的失败。由于减员严重，为了维持战斗力，在城野宏的建议下，阎锡山将部分中国人补入其中，大幅扩充了规模。
然而，在部队扩充之后，元泉罄与岩田清一却因为战事失败而发生冲突，愤而提出辞职，只好改由今村方策负责指挥。为了防止元泉罄拉走部分队伍另立山头，今村方策伙同亲信菊地修一将部队改建为“十总队”，由日军的大队建制改为国军的团建制，掌握了部队的人事、作战、给养等一切大权，从而加强了“残留”日军的统一领导。
等待遣返的日俘和日侨
时间来到1947年9月，两年的合同期限到了，而此时正值大规模遣返日侨日俘。由于阎锡山在留用日军时，曾经承诺过只要个人要求回国，均不予阻拦。解放战争的战场形式发生变化，解放军转入战略进攻以后，“残留”日军中的很多人员对前途感到无望，纷纷要求回国，“十总队”发生了动摇。而那些死硬的军国主义分子，以暴力胁迫强制弹压了回国的风潮，期间有部分日军官兵不堪忍受而自杀。
1948年2月，“十总队”更名为“教导总队”，下设4个团。除了作战任务外，在训练任务上，按照阎锡山的要求，将各团的中国人一律培训为士官。
1948年3月，随着遣返日俘日侨的行动接近尾声，“教导总队”再次出现要求回国的声浪。今村方策意识到以往的欺骗加暴力胁迫已经不再有用，于是与阎锡山商议，退出所谓“破格待遇法”，妄图以高薪收买稳定部队情绪。当时，阎锡山给“残留”日军开出的工资是：将官级每月30美元、校官级12美元、尉官级8美元（士兵和士官按尉官计，由于连晋三级，原来的尉官全部成为校官，校官全部按将官计），并且均以美元支付，可以邮回日本。要知道当时日本还在实行“金融经济措施”期间，工薪阶层的月薪支付被限制在不超过500日元，按当时的汇率折算不足2美元。与此同时，为了阻碍回国，日军中的死硬分子相互串通，对坚持回国者采取殴打甚至活埋。
战后初期的日本经济困难
然而讽刺的是，打着招募所谓“日本义勇军”的旗号，早在1947年9月，还在担任“十总队”政治部长的城野宏就派遣总务科长小川光回国，准备从本土招募新人。早就受够了战争的日本民众对此毫无兴趣，事情也就不了了之。
倒是旧日军中破译苏联密码的专家大久保大佐和华北方面军司令部参谋部第二课的情报人员横山中佐从日本偷渡来华，进入国民政府国防部研究室第六组，专营对苏情报。当然，这些与山西的日军“残留”毫无关系。
眼看在日本国内招募“义勇军”遇阻，阎锡山认为这是派出的人物“级别不够”。与日本人一番讨论之后，他决定要直接派遣山冈道武和三浦三郎这样的“大人物”，准备直接疏通与驻日美军的关系。于是，山冈和三浦二人就顺理成章地在1948年5月跑路回国了。
澄田赉四郎
河本大作
在山冈和三浦走后，原第一军司令澄田赉四郎摘掉了战犯的帽子，堂而皇之的继任了阎锡山的最高军事顾问。虽然顶着战犯的帽子，但是澄田赉四郎从来没有蹲过一天的监狱，之前一直被优待在太原的豪华住宅，还有配有副官和专职厨师以及女招待伺候。
在1948年底解放军包围太原以后，见势不妙的澄田赉四郎在阎锡山离开太原后，也丢下部下，乘坐飞机跑到南京，然后取道上海回日本去了。1949年4月24日，解放军发起总攻，仅用一个上午，就解放了太原。至此，在山西的“残留”日军全军覆没。
来自枪炮的审判——“残留”日军与我军的交战
山西的“残留”日军与我军的交战记录要比解放战争的爆发早了半年。1945年12月，阎锡山撕毁与我军签署的和平协议，悍然出兵2万进犯我晋东南解放区，在我军果断反击下，全军覆没。在这次战斗中，日军独立步兵第十四旅团在元泉罄的带领下全员在沁县与我军发生战斗。此外，由日军组成的省训队、特务团和第六护路总队也参与战斗。我军与日军的战斗打得非常激烈，期间多次爆发白刃格斗。我方付出了不小的伤亡代价，才最终击退日军。
抗日战争结束后我军第一次与日军的交战，没能大量歼灭敌人，这样的参战令将士们非常不爽。想想当年抗战八年以来日军在三晋大地的作为，各级指战员更是义愤填膺，当然机会总是有的。
身穿国军军服的日军顾问
1946年6月，解放战争爆发，蒋匪军向解放区大举进攻。看到蒋介石大打出手，阎锡山也顺势乘火打劫，在7月份命令今村方策担任十九军和四十师的“战术指挥”，并派遣菊池大尉等数人直接下到连队，对进攻崞县的四十师现场指导。结果，在我军的反击下，崞县解放，菊池被俘。菊池被俘后谎称可以去争取今村方策等人投降，在被我方释放后又跑回了忻县原平镇。
我军乘胜追击，相继解放宁武、繁峙、代县之后，今村方策率领的“保安第二大队”和四十师余部退入忻县（今忻州市）。随后，阎锡山为了驰援忻县，亲自率领两个军兵力，并调动“保安总队”的两个大队作为直属卫队参战。而在汾阳县三泉镇的日军，也抽调部分兵力在藤本秀雄的指挥下向我军进攻。由于忻县的城墙坚固，我方缺乏攻坚重武器，加之阎锡山援军已到，我军遂主动撤出战斗。
过了一个月，阎锡山又转到南面，从晋中的寿阳方向进攻我解放区。岩田清一以第二纵队的名义，指挥四个“保安大队”进攻寿阳以南的景尚村，结果在我军的反击下，“第三保安大队”队长大庭孝一、副大队长小川龟吉被我军当场击毙，部队损失惨重，屁滚尿流逃回了太原。
阎锡山的“十三太保”之一楚溪春
在寿阳战斗进行的同时，刚刚取得晋北战役大胜的张宗逊率部对大同之敌实施包围。守城的日军“大同总队”督战晋绥军楚溪春部顽抗。关键时刻，傅作义部围魏救赵向集宁进犯，我军被迫放弃攻城。最终，大同、集宁战役，我军没能达成攻城、打援的主要目标而失利，但还是取得了歼灭敌军1.2万余人战绩。
连续挨了三顿暴锤的日本人瞬间没了傲气，他们也从开始的时候 “只要日军出动，八路就不在话下”，变成了八路一来，鬼子鸡飞狗跳。最终，“残留”日军内部矛盾大爆发。山冈道武挤走了元泉罄，让今村方策上位。元泉罄则带领自己旅团司令部的三浦三郎到赵承绶的第七集团军担任顾问，后来又出任副司令。作为回击，元泉罄则启用了被岩田清一排挤的城野宏出任政治部主任，并成立研究部负责宣传工作。
经过短暂的休整，1946年10月改组为“山西野战军”的原“保安总队”，在1947年2月的汾阳、孝义战役，3月的西山战役，4月的文水战役，5月的阳泉战役中被解放军接连暴锤。不过，在上述战役中，“残留”的日军是作为阎锡山和赵承绶的预备队出战，更多时候是作为督战队使用，因而损失有限。但是，尽管如此，装甲机械化队司令赤星久行被我军击伤，第五大队在解放阳泉的战斗中被我军尽数俘获。
1947年5月2日阳泉解放
被阎锡山视为宝贝的“残留”日军是打死一个少一个。眼见部队出现损失却没有补充，一向小肚鸡肠的阎锡山受不了了。他一面想方设法搜罗日军旧部补充，一面打算用中国人填补空额。随后，日军“残留”改名“十总队”。
用中国人补充部队，是在抗日战争时期有驾驭伪军经验的城野宏提出来的，并决定在第一、第三、第四大队进行“试点”。而阎锡山为了讨好日本人，居然让这些侵略者在太原体育场开运动大会，还组织手持日本国旗的侨民组成啦啦队助威，并占用市内所有剧场搞文艺演出“慰劳”日军。
然而，这一番讨好下来，日本人并没高看阎锡山一眼，元泉罄等人私下讥讽道：
“阎锡山算什么东西？山西就是我们的。”
真是亏得他阎锡山信任日本人超过了自己的同胞。
华中野战军三打运城
对于被补充进“十总队”的中国人而言，那就是个阎王殿。由于中国人的增加，所有的日军士兵必须掌握小队长以上的指挥能力，为此加强了训练。而为了培养未来的指挥官，又集中青年队员成立了“新生私塾”，类似于日本陆军士官学校，以非常野蛮的方式进行训练。
因为战乱、饥饿以及国民党和地方军阀的横征暴敛，国统区的普通百姓长期处营养不良的状态，训练的加码使得越来越多的人病倒。然而，“十总队”的日本军医对生病的中国人不予治疗，等到病情严重就投毒杀害。
随着国民党军在战场上的节节溃败，持有进步思想的国人越来越多。因为语言不通，日军指挥员并不能掌握队伍中中国人的动态。随着越来越多的逃亡和战场起义发生，日军对编入的中国人失去了信任。
阎锡山手下的特务魔头王靖国
为了“整顿军纪”，阎锡山命令“整军委员会”主任王靖国对240名“政治卫生”教官进行整训，派往“十总队”与日本人合作，彻底清除队伍中的“共党分子”。具体做法是派遣所谓“政治卫生”教官混入学员中，偷听士兵们的谈话，一旦发现有谁对阎锡山不满，立即揪出并宣布此人为“共产党”，当众乱棒打死。在那段时间在晋绥军中，每天都有士兵因“共谍”的罪名而被杀害。而且，这样的法西斯行径不仅针对晋绥军中的士兵，也针对地方百姓，整户整村的屠杀屡见不鲜。
随着战事的进行，阎锡山的部队是越打越少。为了扩充兵力，1948年2月，“十总队”更名为“教导总队”，开始担负起类似士官学校的作用。但是，在人民的力量面前，法西斯分子的挣扎是无力的。
晋中战役中踊跃支前的民工
在1948年7月的晋中战役中，我华北军区部队及晋绥军区部队仅以6万兵力，就歼灭阎锡山部10万余人，打垮了阎锡山的主力。而“残留”日军在垂死挣扎中甚至使用了毒气弹，但还是遭到我军的毁灭性打击，大部被歼。而罪大恶极的元泉罄则与心腹小田切正男、增田重之、布川直平等在战斗中被我军击毙，团长住冈义一被生擒。
解放太原的战斗中我军俘虏的部分“残留”日军（右二为城野宏）
1949年4月24日太原解放，山西“残留”日军全部覆灭。留守在太原城内的今村方策战败自杀，城野宏被俘，“教导总队”最后残存的400余日军被我军生擒，阎锡山手下的全部日军部队均被我军歼灭。