两万清军救兵续至，表里夹攻，永州城外的承平军这时四周受敌，难以抵挡，被迫放弃攻城。

左宗棠让湘军刘长佑与刘坤一率军两万向全州方向追堵而去。

刘坤一也是汗青上巨牛逼的人物，官至两江总督，后与李鸿章齐名，他是湖南新宁人，这时才二十九岁，已经是知府头衔。他廪生出身，廪生是科举里的劣等生，最后每月朝廷都给廪膳，补助糊口。刘坤一在1855年插手江忠源系的湘军楚勇与承平军作战，立下军功，而由廪生逐级升为教谕、知县、知州、知府。

4月22日，在曾纪泽的建议下，湘军知府刘坤1、王勋、副将余星元、杨恒升分三路打击到祁阳的承平军，拔堡垒11座。

4月15日，承平军在祁阳下流十里的观音滩公开编造船筏，停止渡江筹办。杨载福率军驰赴观音滩对岸阻击，承平军死伤无数，随即撤退。

曾纪泽筹办率三千人出战。守城的主将刘长佑道：“这过分冒险，万一失利，末将没法向曾大帅交代！”

5月3日，湖南新任永镇总兵周宽世驰援祁阳，石达开命承平军乔装清军往迎，对周部停止突袭，周军伤亡惨痛，湖南巡抚骆秉章又飞调魏喻义的质字营，赵焕联的和字营进援熊罴岭。

这时，曾纪泽已经派人给左宗棠送信，左宗棠派兵两万援助永州。

承平军与湘军在熊罴岭地区展开会战，互有胜负，5月中旬，傅忠信、赖裕新两军已按打算回师，石达开决定速战持久，尽快前去宝庆，遂于5月17日分兵十路向熊罴岭策动总攻。两边苦战十小时，承平军佯退引清军追逐，另以一军迂回侧袭；湘军大乱，弃甲背叛而逃；承平军一起堵截湘军退路，一起直捣湘军大本营；湘军弃守熊罴岭，退据宝庆44里外之洪桥，沿途死伤甚众。

杨载福命令海军过江进剿，登陆后两边交兵，互有胜负，清军收队进入祁阳。

到宝庆后，石达开命赖裕新驻扎城西，傅忠义驻扎城东，他本人与张遂谋驻扎城南，不久又派兵在东北和北路筑营。承平军5蒲月尾起持续策动守势，城外救兵也多次对围城承平军实施进犯，但始终未能对承平军形成本色性打击，到6月中旬，承平军已在宝庆核心扎基层层堡垒，筑起长濠，使宝庆完整断绝了与城外的联络，粮饷来源也全数被堵截，6月17日，承平军完成了对宝庆的四周合围，但承平军贫乏攻城的重炮，宝庆久攻不下。

霹雷！霹雷！承平军有些马队被着花炮弹击中，直接轰成了渣。着花炮弹的碎片，让四周人仰马翻，然后曾纪泽命令洋枪队扫射，一阵疾风暴雨似的射击，承平军马队死伤三四千人，寸步难行。人数再多也没用。

石达开命傅忠信部乘胜分开新宁北上，直趋宝庆府。担负诱敌任务的赖裕新部这时已经结合上了广西全州六合会义兵，在他们的共同下，五万人安闲回师，折反湖南，分兵打击武冈、新宁，以管束刘长佑声援宝庆的军队，并于5月下旬师抵宝庆。