加上战马只有三万匹，超出来的人手也无法全部骑马撤退。同时出关后的日子很苦，可能也养活不了太多人。

斟酌整顿再三之后，吕布把不愿意跟着走的士兵，都仁慈地稍稍发了一笔遣散费，让他们留在原地等待接受改编。

去掉了一万多不能打、不肯走的后，吕布只带了三万骑兵，全部太原郡府库存着的财物，从七月初十开始后撤，七月二十之前全部撤到雁门长城之外。

留下的一万多相对不那么精锐的士兵，在七月二十四日确认了故主安然走远后，才易帜和平开城，投降了关羽。

关羽进城，立刻封锁已经空了的府库，诸葛亮重新齐民编户、登记府库账目，八月份总算是完成了对太原、雁门二郡各处的和平接收，并且在雁门关与吕布军重新隔着长城建立起对峙。

确保长城防线安全之后，关羽才陆续撤军了一半多兵力。毕竟并州太穷，留在这儿军粮运输损耗太大，长期驻防只要留三四万人就行，还有五万可以撤走。

九月初，主力撤走之后，留下的一部分剩余军粮，也可以作为首批交付给吕布的物资，在雁门关交割。同时，吕布也发出了他的易帜檄文，如约开始辱骂袁绍。