经过半年的扫平，河北的刘黑闼被击败后，唐朝重新掌控了江南地区。
然而，淮南道的行台仆射辅公祏发动起义，自称宋国皇帝，在丹杨称帝，并联合洪州总管张善安，重新占领江南地区，与唐朝南北对峙。
这时候，唐朝只剩下江南义军与之为敌。
辅公祏原本是隋朝末年江南最大的起义军杜伏威部下的副帅。
杜伏威在李世民围攻东都王世充的时候，投降了唐朝。
李渊封杜伏威为吴王，任命他为东南道行台尚书令、江淮以南安抚大使、上柱国；封辅公祏为舒国公，任命他为淮南道行台尚书左仆射。
两人履行职责，消灭了占领杭州的李子通、占领歙州的汪华等江南农民起义军，将淮南、江南一直到海边和岭南大片土地置于他们的控制之下。
622年7月，李世民征伐刘黑闼和徐圆朗，一路取得胜利，声威扩散开来，也震动了江淮地区。
杜伏威担心自己再次占领江南后会被唐朝征讨，所以主动带着养子、左将军阚稜前往长安朝见唐高祖，表示归降的诚意。
李渊任命他为太子太保，仍然兼任旧职务，留在长安；阚稜也被任命为左领军将军；而辅公祏则留守丹杨。
辅公祏对杜伏威外表上表示尊敬，但秘密剥夺了他的军权，早就对此不满，所以不顾杜伏威还在长安，决定等待时机，重新举起义旗。
623年8月，辅公祏杀死了王雄诞，宣称杜伏威被扣在长安无法回到江南，还派信号令大家起义。
他自称皇帝，建立国家，设立各种官职，任命左游仙为兵部尚书、东南道大使、越州总管。
张善安原本也是农民起义军的将领，占领了洪州，后来投降唐朝，被任命为洪州总管，此时也响应起义。
辅公祏任命张善安为西南道大行台，仍然守卫洪州。
接着，辅公祏大力整修兵甲，储备粮食，调集兵力，准备与唐军展开一场大战。
李渊得到消息，立即布置战局。
辅公祏发动起义后十几天，襄州道行台仆射、赵郡王李孝恭率领水军直奔江州。
岭南道大使李靖带领交、广、泉、桂四州的兵力北上宣州。
怀州总管黄君汉从谯、亳率军南下；齐州总管李世勋引兵从淮、泗南下。
四路水陆大军，奉命围剿辅公祏。
辅公祏主动发起进攻，派将领徐绍宗攻打海州，陈政通攻打寿州。
两州发出紧急求援的消息，李渊调防突厥的北线的秦王李世民回来，任命他为江州道行军元帅，负责部署征讨辅公祏的行动。
唐军重新布置战局，决定先除掉张善安，削弱辅公祏的力量，控制长江中游地区。
安抚使李大亮奉命攻打洪州，与张善安在涧对阵时进行交谈。
这时辅公祏的将领陈当世在猷州黄沙惨败，张善安胆怯畏敌，在李大亮一番劝说后动摇了。
他说：“我本没有反叛之心，是士兵们逼迫我。”
“但是我现在投降，恐怕免不了死罪。”
李大亮隔着水高声说：“张总管已经有归降之心，我们是一家人了。”
说完，他单骑渡水，冲入张善安的阵中，拉着他的手亲切交谈，表达出诚意。
张善安非常高兴，答应投降，并带着数十骑兵到了唐军营地。
没想到的是，在营门外，随从被阻拦，只允许张善安一人进入营地。
张善安不知道这是一个计谋，就独自进入了营地。
在张、李两人交谈了一段时间后，张善安刚要告辞，就突然见李大亮脸色一变，吩咐武士将张善安抓住。
李大亮急忙骑马，返回张善安大营报告，全军非常愤怒，决定倾全军之力来攻打唐军。
李大亮派人传达消息，试图离间张善安与他的将领的关系。
他声称自己并未扣留张总管，而是张善安自愿留下来，并担心回到营地后会受到士兵的控制。
张善安的将领们相信了这个谎言，对张善安感到愤怒，并纷纷离开。
李大亮乘机追杀他们，取得了很多胜利，使洪州义军崩溃。
随后，李大亮护送张善安到长安，但不久后张善安被杀害。
张善安部队的失败后，唐军集中兵力围剿辅公祏。
624年春，李孝恭攻破了枞阳、宣州鹊头镇、芜湖和梁山等三个镇，李大亮也在猷州击败了辅公祏。
面对唐军的逼近，辅公祏在宣州的宣城县筑起了横江防线。
由冯慧亮和陈当世率领三万水军，在县西南的博望山扎防；陈正道和徐绍宗率领三万步骑，在县东南的青林山扎防。
在博望山西的梁山夹江上拉起铁索封锁江面，防止唐军沿江东下。
同时，在江面的西岸沿江筑起连绵十余里的城墙，形成壁垒相连的防线。
这时，李孝恭和李靖率领水师到达舒州集结，李世勩率领一万步兵渡过淮河，到达硖石，从北面威胁辅公祏。
面对这个强大的敌人，冯慧亮等将领选择坚壁不战。
李孝恭也没有选择正面交战，而是派遣奇兵切断了冯军的粮草供应线，导致冯军陷入粮荒。
冯慧亮派军队进逼李孝恭的大营，但李孝恭并未出营迎战，而是在营中召集将领商议作战计划。
会议上出现了分歧，大多数将领认为冯慧亮拥有兵力优势，占据了水陆交通要道，很难迅速取胜，所以建议直接攻打辅公祏的老巢丹扬，一旦丹扬被攻破，冯慧亮就会自动投降。
李孝恭认为这个建议有道理，但李靖却不同意，说：“冯慧亮虽然指挥水陆两军，拥有精锐部队，但辅公祏自己也一定不会缺乏精锐部队。”
“我们甚至无法征服冯慧亮，怎么能够攻克丹扬呢？”
“如果我们进攻丹扬几个月还未成功，冯慧亮就会乘机袭击我们的后方，那时我们将会陷入前后夹击的危险中。”
“冯慧亮等将领身经百战，他们并不是不愿意进行一场大规模战斗，只是按照命令选择以守待攻。”
“如果我们选择攻城挑战，一定能够攻破敌军。”
李孝恭觉得李靖的意见更合理，于是采纳了他的战略，组织老弱残兵作为先锋部队，进攻义军。
精锐部队则待命在后方。
先锋部队一交敌就溃败，义军不知道这是敌军的计谋，出兵追击，结果中了唐军精锐部队的埋伏，双方展开了激烈的战斗，伤亡惨重。
杜伏威的养子阚稜也随军南征，突然出现在战场上。
他摘下头盔对江南义军说：“你们不认识我了吗？怎么敢与我交战！”
许多义军本来就是阚稜的部下，一见到阚稜，听了他的煽动，便不想再战，有的甚至下拜投降。
就在这个混乱的时机，李孝恭和李靖率军发动了猛攻，成功攻下了博望山和青林山的义军防线，造成了万余人的伤亡。
紧接着，李靖率军直抵丹扬，辅公祏没有及时做好防备，被迫弃城东逃。
李靖一路追击，最终辅公祏只剩下几十个心腹人士，最终在武康被当地地主武装俘虏，并被送到丹扬，英勇就义。
李孝恭又捕杀了顽强反抗的义军将领，不久后以谋反的罪名处决了阚稜。
杜伏威也早在那年二月去世。
江南义军彻底崩溃，整个江南地区被唐军平定。
这一年，唐朝统一了整个中原地区。
