而刚从并州回到长安后又马不断蹄赶往江南的杨广看到杨素快速进军,便当即派大将郭衍“领精锐万人先屯京口”,然后向西进兵皖南“黟,歙诸洞”,尽灭叛军;再者让本身晋王府参军段达也率军一万打击方、滁二州,又破汪文进于宣州,有力地共同了杨素的军事行动。
而后,杨素屡立军功,北齐灭亡后,加上开府,改封成安县公,邑千五百户,赐以粟帛、奴婢、杂畜。北周建德六年(577年)十月,陈宣帝陈顼闻北周灭北齐,遂派名将吴明彻率军北伐。吴明彻军至北周吕梁(江苏徐州东南),击败徐州总管梁士彦,进围彭城(今江苏徐州)。北周建德七年(578年)仲春,杨素随上大将军王轨大破陈军,俘主将吴明彻。杨素遂治东楚州事。其弟杨慎被封为义安侯。陈将樊毅筑城于泗口,杨素将其击走之,并将所筑之城全数破坏。北周宣政元年(578年)六月,周武帝归天,周宣帝继位,杨素袭父爵临贞县公,并以其弟杨约为安成公。北周大象元年(579年),杨素随上柱国韦孝宽攻南陈淮南,率军霸占盱眙(江苏盱眙东北)、钟离(安徽凤阳东北)。
固然对于杨广做天子之前的一些事情史乘成心忽视而没有很详细的记录,但是在杨广再次以皇子的身份下江南的表示仍然能从一些事件中看到。杨广到了扬州后没有像杨素一样直接带领雄师把兵变者弹压,但是他还是以他特有的攻心战术胜利地招安了多量叛这。如吴郡世族陆知命,在三吴地区人望极高,杨广亲身延请他出面晓谕叛者,使十七城叛者纳城迎降。