当初，太平天国的高涨气势，让清政府觉得江山似乎就要易手，依靠早已腐朽不堪的八旗、绿营，显然无法扭转局面。于是，清政府为各地团练开了口子，一时间，各地纷纷响应。咸丰年间，先后奉上谕担任团练大臣的官员有43人之多，最终成就大事的，只有曾国藩一个。
小城建军
曾国藩在受命之初，决心另起炉灶，按照自己的想法带出一支全新的部队来。古往今来，肯办事者总是要惹出很多麻烦，要办成事，必须善于处理各种矛盾。为了避免其他大员以及那些绿营“老爷兵”的干扰，曾国藩选择“避走衡州”，来到距离各种势力汇集的省城长沙较远的衡阳练兵。在这里，他广招勇丁，统一编制，勤加训练，又花大力气筹建湘军水师。半年后，湘军北上作战，水师已有大小战船三百六十余只，水陆官兵及丁夫等共计一万七千余人。
建军练兵的具体过程中，曾国藩等人摸着石头过河，重点参照戚继光的练兵经验，“但求其精，不贵其多；但求有济，不求速效”，针对作战对手——太平军的特点，逐步形成一支新式队伍，用曾国藩的话说，就是“改弦更张，别树一军”。
作为一支从无到有，另起炉灶的新军，湘军的特色主要体现在四个方面：慎选兵将，合理编制，勤加训练，厚给奖赏。
慎选兵将
毛泽东说过，士兵是部队的基础。官兵素质如何，往往决定着一支军队的命运。绿营兵不堪使用，一个重要原因就是兵员素质低下，作风散漫，视训练为儿戏；甚至雇人代训、冒名当兵；许多将领更是勇于私事、怯于战阵，军事无术，盘剥有方，上下怨望，官兵关系紧张。
曾国藩深知绿营兵的弊端，他的建军标准是：“呼吸相顾，痛痒相关，赴火同行，蹈汤同往，胜则举杯酒以让功，败则出死力以相救。”这是一个相当高的建军标准，什么样的兵源才能胜任呢？
曾国藩从“戚家军”那里学得经验，其选择勇丁的标准是：“须择技艺娴熟、年轻力壮、朴实而有农夫土气者为上。其油头滑面，有市井气者，有衙门气者，概不收用。”募勇时，“须取具保结，造具府县里居、父母妻子名姓，箕斗清册各结附册，以便检查。”招募士兵往往以县籍分营，兵由将选，关系密切；各营最初又有各种名称，如湘乡勇、新宁勇、平江勇等。
曾国藩认为，这样的招募和编组方式，可以有效控制官兵，同时，勇丁之间是同乡、同族、亲戚等密切的关系，从而能够在作战时“齐心相顾，不肯轻弃伴侣”。
合理编制
兵员和武器装备一经确定，编制成了主要问题。简而言之，编制就是官兵和武器的排列组合，优化的组合是战斗力的倍增器，可以创造以少胜多的战争奇迹。混乱的排列只能集聚起一群乌合之众，即使兵多将广、投鞭断流，难免风声鹤唳、仓皇北顾。
湘军在衡州扩招后，各类兵丁达到近两万人，有陆师也有水师，有步兵也有马队，有刀矛弓箭等冷兵器，也有抬枪鸟铳等火器，如果不能合理编组，很容易折戟沉沙。
曾国藩在湘军确立“营”为基本单位，每营的人数，由最初的360人改为衡州训练时的500人，设营官1名，营官亲兵60名，亲兵什长6名。每营4哨，哨设哨官1名，哨长1名，护勇5名，什长8名，正勇84名，另有伙勇42名；每营长夫180名，随营行动。营官有亲兵6队，即劈山炮2队，刀矛队3队，小枪队1队，共计6队；每哨有刀矛队4队，抬枪队2队，小枪队2队，共计8队，水师编制则依据大型快蟹、中型长龙、小型舢板的战船区分，编制大营和小营，初期以大营为主，后期则重视小营，以适应长江（内湖）水战的现实需要。
湘军营制，重视武器装备的搭配，如冷兵器与火器的搭配，大小战船的搭配，以便在战斗中充分发挥各自长处，同时注意随着武器装备的改进和实战的需要，不断更新编制。这是它在同太平军作战中屡败而不溃、愈战而愈强的重要因素。
勤加训练
曾国藩自称“训练之才，非战阵之才”，他确实在湘军的训练上花了很大功夫。当时所称的“训练”，并不同于今天所说的军事训练，而是分为“训”和“练”两个方面。“训”是思想政治教育，“练”是军事技术训练，所谓“自古节制之师存乎训练，训以固其心，练以精其技”。
曾国藩注重训、练并举，特别重视“训”的作用，自称“每逢三八操演，集诸勇而教之，反复开说至千百语”，“虽不敢云说法点顽石之头，亦诚欲以苦口滴杜鹃之血”。
曾国藩规定的“训”，包括“训家规”和“训营规”两种。
对于“训”，曾国藩反对把思想教育弄成空洞无物的无聊说教，要求各级将领以父兄教子的方式，以爱护士卒的姿态，结合勇丁的切身利害进行教育，比如“训作人，则全要肫诚，如父母教子，有殷殷望其成立之意，庶人人易于感动”。
对于“练”，曾国藩强调“治军以勤字为先”，要求全体官兵勤于练兵，强化技艺、枪法和阵式。他专门访求武师和猎户，请他们帮助教授军事技能，有时亲自组织单兵军事技能考核，亲笔记下，某勇“善扒墉跳沟”，某勇“善打火器”。
对于劈山炮等重火器，曾国藩更为重视，并曾写信给带兵的曾国荃，要求他“将各营亲口教之，亲眼验之，乃不失劈山炮之妙用也”。他还亲自制定《初定营规二十二条》、《营规》等，从招募、行军、扎营、训练都做了严格规定，使湘军的训练从一开始就走上制度化之路。
厚给奖赏
兼任过兵部侍郎的曾国藩知道，以往绿营兵饷，分为“行饷”和“坐饷”，弊端在于，平时薪饷太低，不足以调动官兵的训练热情；而不敷养家糊口之用的月饷，又促使绿营士兵走出军营，行商坐贾，以求自谋生路；战时薪饷虽然高出许多，平时养成的低下的战斗力又非一时可以改观，虽有重赏，却无真正能战之兵。
曾国藩考虑到两种军饷形式的不足，顾及湘勇“吃粮当兵”、“赚钱养家”的现实需要，采取“厚薪养兵”办法，比如，湘军正勇的月饷初定为4两2钱，虽然略低于绿营月饷与行饷的总和，但远高于其月饷，又是湖南一带农民种田收入的三四倍，从而吸引大批青壮年农民投入湘军。
对于军官，曾国藩采取物质激励与精神激励相结合的办法，既保证其高额薪水，又保证其立功后的升迁。在战斗中有功的中下级将领升迁很快，像胡林翼、李续宾等人，仅仅几年时间便被保举到巡抚一级的位置，超过当时实为湘军主帅的曾国藩。
对于那些在战斗中牺牲的湘军官兵，曾国藩还要向朝廷请示为他们建昭忠祠，亲自为他们树碑立传，歌功颂德，并给他们的家属以很高的政治待遇和经济补偿。这样，敢战者有优厚薪饷，立功者有光明前程，牺牲者有死后哀荣，三管齐下，使湘军的积极性非常高，湖南各地农民投军的积极性空前高涨。
选自《曾国藩与湘军》