郝鹏举原是国民党军官，抗日战争时期叛变投日，当上了伪淮海省省长，盘踞在徐海一带。抗战胜利后，郝鹏举摇身一变，又成了国民党第六路军总司令，仍驻徐州。1946年1月初，国民党反动派于重庆召开政治协商会议前夕，为抢占胜利果实，纠集郝鹏举、陈大庆、翁文庆等部共10个师的兵力在飞机大炮掩护下，分兵三路北犯山东解放区。

这时国民党军进入徐州接受日军投降者为嫡系部队陈大庆的第十九集团军，该部以胜利者的姿态对各杂牌部队以及“反正”的郝鹏举部颐指气使，百般歧视，使郝部官兵屡受屈辱，滋生不满情绪。郝旋奉蒋介石指令为反共前锋，率部进攻鲁南解放区。12月初，郝会同第三十三集团军(总司令冯治安)第五十九军第三十八师和第十九集团军(总司令陈大庆)的第一一七师，骑兵第八师和翁文庆纵队等十个师由徐州北上进攻贾汪、韩庄，分三路北犯鲁南。是月中旬，郝鹏举部的先头都队约两个团先于冯治安、陈大庆各部进占贾汪南大、小吴家村、韩庄、韩园一带。23日继续北犯至南北徐杨，其先头部队进驻耿家楼、金家楼、万辛闸一线。1946年1月，郝部划归第三绥靖区(设贾汪)司令官冯治安指挥，奉令从左翼进出运河，掩护冯部北进。郝既不敢违令不进，又深恐被人民解放军消灭，为保存实力而只得消极避战。时任第三绥靖区副司令官、郝留苏时的同学、中共地下党员张克侠，看清了郝的矛盾心理，奉上级党指示，藉视察郝部之机，劝郝认清形势，弃暗投明。1945年10月中共淮北区党委敌工部派员与中共徐州市工委及邳睢铜地委配合，与郝部进步军人张奇建立联系，开展争取郝鹏举在战场起义。同年11月发生的高树勋起义和国民党第十一战区副司令长官、第四十军军长马法五被人民解放军俘获这二件事，均使郝的思想产生动摇，发展到决心起义。在外界形势的迫使下，1946年1月5日郝部开拔莒县，有了安定的练兵环境。1月9日，在台儿庄前线正式起义，部队自定名为“中国民主联军”，郝鹏举为总司令，并发表“中国民主联军退出内战、拥护民主的宣言”。在根据地民主政府帮助下，3月3日在张家圩子成立了“军官教导团”，编有将校班、政治训练班、干部队、学生队，郝鹏举任团长，中共方面派有教官等参预，协助办好军校。还创办了教育官佐子女的弘毅小学，为培养郝部眷属学习护士技能，成立了“医助训练班”，又设立修械所(军械厂)。郝部各师团开展修路种树，为农民抢收小麦等活动，出现了军民团结的新风气。