1864年6月，湘軍攻破天京城，太平天國滅亡，壹個月後，也就是1864年7月，曾國藩下令，將12萬湘軍全行解散，僅有湘軍水師少部分，經朝廷商議後，改為長江經制水師，巡防長江，解散之迅速果斷，不脫離帶水，究其原因是兩點，壹是制度所在，必須解散，二是湘軍勢大必遭朝廷猜忌。
湘軍的兩位靈魂人物，左為胡林翼，右為曾國藩。先說滿清的兵制，分為世兵制和募兵制，世兵制指兵民合壹，八旗就是典型世兵制，國家中央軍，綠營開始是募兵制，後來定額兵籍，綠營也成為世兵制，八旗和綠營均為滿清經制之師，也就是正規軍隊。有時候國家遇到重大戰事了，官兵不足時，需要從各地臨時招募鄉兵協助作戰，這就是募兵制。
安慶軍械所是洋務運動最早的企業，由曾國藩創設生產槍炮、子彈的軍工坊，1862年安慶軍械所成功研制中國第壹臺蒸汽機。勇營即是募兵制的壹種，勇營軍制為將必親選，兵必自募，但有壹條鐵律?旋募旋散，初非經制之師?，意思是，勇營不是國家正規部隊，只是臨時需要了，就地招募，完事後就地解散，好，問題來了，曾國藩的湘軍，後來的淮軍、防軍、練軍等都屬於勇營軍制，在平定太平軍後，按慣例，湘軍必須就地解散，前面講了，為了巡防長江，僅有少量湘軍水師編為經制之師，也就是正規部隊。
靖港，湘軍水師遺址。所以，在當時，擺在曾國藩面前的是這條雷打不動的鐵律，沒有朝廷發話，必須立即解散，另外湘軍已經完全取代了八旗和綠營的戰略地位，成為清廷最精銳的壹支戰鬥力，但這支最強部隊不是朝廷建立的，而是漢人曾國藩編練的，盡管清廷數旨建議保留湘軍，但做法是全部打亂剝離，其目的很明顯了。
坐落於保定的淮軍公所遺址，當年淮軍辦公駐地。曾國藩如果遵朝廷想法，雖可保留湘軍，但會被打亂分拆，面目全非，可能仍有人認為這是壹支隨時能聚攏的曾家軍，時間久了必遭清廷畏忌，為了避權勢，立撤湘軍，自解兵權，這是種未雨綢繆的做法。與湘軍不同的是，淮軍和各地防軍沒有裁撤，主要原因是戰亂又開始，撚軍、中法戰爭等，淮軍和各地防軍成了當時主要國防力量。