1856年，李续宾共同正在武昌核心作战的胡林翼所部攻取武昌。那一年，李续宾根基上是在武昌城下度过的，率部与湖北巡抚胡林翼、湖北提督杨岳斌等与承平军相持于武昌城外。承平天国产生天京内哄，翼五石达开从武昌火线赶回天京。李续宾乘势攻占了鲁家巷承平虎帐垒13座，进占武昌。接著，他率军乘势东下，在杨载福海军共同下，又攻陷了武昌县（今鄂州市），大冶、兴国，再次因功升为记名按察使。
5月19日，湘军用隧道轰塌九江东南城墙百余丈，湘军兵士前者伤，后者继进，冲上城头，林启容率部下浴血巷战，1.7万将士全数英勇捐躯，其壮烈为承平天国战史中所仅见。
1857年9月，李续宾起首打击九江北面的小池口，由海军炮船日夜轰击，城内房屋全被击毁。10月，风雨交集，李续宾令陆师用稻草，沙囊填满壕沟，兵士躲在稻草沙囊以后，直扑城下；然后向城内施放火箭，乘烟焰迷漫之时攻陷小池口。厥后，李续宾率部打击湖口，湘军缘梯攻城，用火箭击中承平军的火药库，顿时瓦石飞空，墙垒分裂；守将黄文金见势难再守，开门撤走。梅家洲守军见湖口已陷，也弃垒而走。被豆割于鄱阳湖内达三年之久的湘军海军与长江内海军汇合。
篡夺九江的打算受挫，曾国藩退守南昌。除留塔齐布持续围困九江外，罗泽南部奉调充作游击之师南援赣中，李续宾随队与承平军作战，持续攻占弋阳。广信、德兴、义宁等府县，因功升为记名道员。
李续宾也感到兵力不敷，他对此心知肚明，在进军三河镇时向曾国藩陈述说：“所部八千人因光复潜山，太湖、桐城及舒城留兵戍守，分去三千人。数月以来，经常苦战何尝得一日之停止。伤损精锐，疮痍满目，现已不满五千人，皆系疲弱之卒。三河一带悍贼虽多，自揣犹足以制。若遇大股援贼，兵力亦恐难支。”
直到1858年3月20日，李续宾再次攻打九江城。此时九江城内储备的粮食已吃光，承平军靠种麦自给，仍固执抗击。5月8日，湘军挖隧道轰塌东门、南门城墙，登城兵士均被承平军投掷的大桶火药炸死炸伤，缺口重又堵住。此战，湘军死伤无数，胡林翼向朝廷奏报说，湘军伤亡士卒之惨，使将士莫不欷欧饮泣。
1854年10月初，湘军连续到达武昌核心，曾国藩批示湘军分多路打击武昌。罗泽南，李续宾率部4000余人，由金口攻花圃。
李续宾率部一月以内，连下四城，进军迅猛，但军队伤亡较重。仅舒城一战，湘军阵亡过千，带伤约五百人以外。
镇守九江的林启容是承平军的闻名骁将，能攻善守。湘军打击九江西门，三战皆败，死伤甚众。湘军对九江实施全面打击，罗泽南、李续宾率部猛攻东门，因城上枪炮木石交施，多次抢登，不能到手。曾国藩见硬攻不能见效，便改取“舍坚而攻瑕”的目标，留塔齐布等持续围攻九江，调胡林翼，罗泽南、李续宾等打击梅家洲，诡计占据九江核心要点，堵截九江与湖口的联络。
而用时数年，攻陷九江，干掉承平军的名将林启容，是李续宾获得的最艰苦也是最光辉的胜利。这硬仗打得非常超卓。
李续宾抓紧围攻九江，百计并施。但林启容毫无惧色，率军死守城中，使湘军顿兵城下一咩多仍不能得逞。
李续宾也是贫苦人家出身，湖南湘村夫，生于敦行四十四都，年青时他和项羽一样，体力过人，但他好读书。因家道贫寒，靠贩煤赡养家人，并尽力供胞弟李续宜读书。同是湘村夫的湘军大将罗泽南非常赏识他，把他和他的兄弟都收为弟子，不但免其学费，还拿出本身支出的一部分，帮他扶养家人。