当时情绪低落忧心忡忡的日本士兵，听到上司这么说，走投无路，有的人只好自己留下，以代替让家属回国。
有的部队被上司强制留下，说“在战争中担任过间谍工作的人要被中国方面处以枪毙。如果不愿意被枪毙就加入特务团。”战时上司的命令必须绝对服从，对不服从命令的人可以就地枪决。因此有许多人就是“因为第一军司令官澄田睐四郎中将决定的”才留了下来。
当时城野宏还写了一本《日本人的处境》的小册子进行宣传鼓动，他在书中写着，“为了使日本尽快恢复独立，完成日本的复兴，在希望美国占领军能够尽早撒退的同时，日本必须将主要的经济资源掌握在自己的手中。这是日本复兴的道路。我们留在山西暂时协助阎锡山，正是为了达到这一目的。我们留在山西的军队，将作为重建日本军的先遣部队，高举迅速复兴日本的旗帜而战！”
（三）
在太原城内，日本人总是三人一堆五人一伙聚集在一起，围绕着“回国”还是“留驻”议论纷纷。这时在战争中好象被藏在哪里根本看不见的肥皂和砂糖，甚至连美国的骆驼牌香烟都出现了。而且，因为日本侵华部队继续留在山西境内，日本人经营的茶馆、饭店等到处开了出来，电影院里还上映日本电影，连鸡素烧店铺都开了好几家。
在山西省，日本军队侵入时，矿山和重要的工厂原本就被日本军队占领，由侵华日军第一军管理着，干涉东洋纺织、浅野水泥、大仓商事等经营，利润归第一军作为军费。
因此，在山西省的日本侵华部队拥有庞大的经费，而且有着“山西皇帝”之称的阎锡山还向留驻的侵华日军提供给养。战争刚结束时，留驻日军粮秣富裕，费用也相当充足。我对街上流行的“回国”或“留下”的议论视而不见，每天找军队干部游说他们留下。
那时的留驻工作是强制性的。有个将校看见日本投降，以后可以不用打杖了，感到非常高兴，便在分配给他的高级住宅里每天过着荒淫的生活。因为他说过决不插手与留驻有关的事情，我去他的住宅劝说他，看见他与两名朝鲜妇女在一起鬼混，对我的劝说连听也不听。他在侵华战争时任参谋，“为了大东亚共荣”而奋力督战，日本一战败他便判若两人。我气得实在捺耐不住便破口大骂，“你难道已经没有复兴日本的愿望？”便撕下了他的参谋肩章回来了。
围绕着遛下还是不遛的问题，各部队都发生了很大的骚动，甚至还有主张留下的士兵从背后枪杀准备回国士兵人事。
（四）
1945年12月，日本人特务团编制计划出台，在司令部总司令、中将三浦三郎之下设置步兵六个师团、炮兵一个师团，司令部还设置直属的装甲部队、士官学校、医院等。当时有官兵近2万人。
1946年3月特务团编制结束，总司令部参谋、中佐宫崎瞬一坐飞机从南京赶来，假惺惺地调查日军复员工作停顿下来的原因。八路军、国民党军队、美军的代表组成的调停组“三人小组”也同时来到了太原。当然，日军留驻是不可能被允许的，遭到了“三人小组”的痛斥。“三人小组”要求阎锡山督促日本军队回国。调查持续到5月份。在这期间，特务团被分散到六个师团内即太原的周围，忻县、 彭村、阳泉、大宫盘等地隐蔽起来。
在这期间，日本士兵也有回国的，但他们都不同程度地受到了威胁，有的士兵从背后被机枪打死后被挂在铁丝网上，有一个日本军官触电被烧成焦黑的尸体。但在当时，我们谁也没有感到奇怪，因为我们过着的，是丧失了人性的生活，是远离希望和理性的生活。
阎锡山出自对“三人小组”的畏惧，第一次开动日军复员列车，将日军士兵遣送回国，从太原送到天津。一时间原来愿意留驻的日军士兵对此也放弃留驻的念头回国了。最后隐藏在各地等候“三人小组”离开太原的日本侵华士兵，减少到大约15000名。
太原的日军司令部也只好暂时采取解散的形式，十余名侵华日军将领作为战犯被“收监”在“监狱”里，但实际上第一军司令官澄田睐四郎、第一一四师团长三浦三郎等仍住在太原城内的高级住宅区工程师街的洋房里，配备着秘书、厨师、日本佣人、带司机的自备车，而且每月还从阎锡山那里领取相当数量的生活费。