三、投身曾幕府 格局更精进
李鸿章投奔曾国藩时，曾国藩正以在籍侍郎的身份，受命帮办湖南的团练事宜。他意识到“兵伍不精”是清王朝的大患之一，决心独树一帜，改弦更张，编练一支新式武装——湘军，以挽救大清危局。咸丰四年（1854年）二月，他编成并督率湘军水陆两军，沿湘江北上，抗击太平军。咸丰八年（1858年），他奉命奔走于浙闽赣一带，进击分裂出走、盘旋浙闽的太平军石达开部。同年十月，他率部到达江西建昌。
李鸿章的大哥李瀚章于道光二十九年（1849年）拔贡朝考出自曾国藩门下，他“性本敦笃，幼弥精勤”，虽然才具略短，但老实敦厚，扎实可靠。过去他在家里“日日役米薪”，家中大小事务，贺吊应酬，弟妹嫁娶，无不做得妥妥帖帖。曾国藩看中了他这一才能，上了一纸奏章让李瀚章到湘军任粮台主事，李瀚章果然把湘军的后勤事务安排得井井有条。
李鸿章抵达建昌后，按李瀚章的指引来到曾府，见了曾国藩纳头便拜，一边磕头一边说道：“门生李鸿章，给恩师请安！”
曾国藩离座，轻扶李鸿章说：“6年风尘，终于把你吹回来了。”他让人给李鸿章上茶，又接着说，“少荃坐下说话，见过你大哥了吗？”李鸿章答道：“门生刚到建昌就前来给恩师请安，尚未去见大哥。恩师这些年可好？”
曾国藩淡淡应了声“还好”，又说：“少荃哪，你大哥一到建昌就开始生病，水土不服，常常呕吐，但他工作一直十分勤勉。现在你来了，应当先看他一眼再来看我才是！”
李鸿章忙回道：“恩师为长，有恩师在，门生怎敢先去见兄长呢？”
曾国藩戏谑一笑道：“少荃你把我这半个老师看得太重了吧？战乱六七年，你先跟了吕贤基，并一起离开京师。吕贤基死后，你又投到福济门下。如今福济被解了职，你真是不幸啊！不过，这六七年间，你从七品编修升至从三品按察使，可见他们是看重你的，这也是你努力的结果。但如今到我这里，未必有这样的好事。”
李鸿章是个聪明人，一下就听出了曾国藩的言外之意：一是责怪他不断更换门庭，不能从一而终；二是说他晋升如此之快，可能是走门路得来的；三是暗示曾府不会给他三品的位置，希望他从头努力。
所以，李鸿章初入曾府时不甚得意，表现远不如他大哥那么好。一是李鸿章在来此之前，朝廷拟授予他按察使衔（从三品），虽然最终未授下来，但至少还是个正四品道台。而在这里，他不过是一名默默无闻的书记员、幕僚，心中自然甚感不平。二是李鸿章自认为在安徽期间久经战场，可以独当一面，如今却没有机会领兵出战，这对急于找回脸面的李鸿章来说，心中的郁闷实在无法排遣，因此他常常借酒浇愁。
不过，曾国藩也没有怠慢他。没多久，曾国藩就让他办理行文、批阅公文、起草书牍和奏章。很多知识分子都习惯熬夜，到了夜深人静的时候，写起东西来方能才思泉涌，熬夜写东西大概可以算是知识分子的“夜生活”。李鸿章也是如此，晚上熬夜处理文案之后，早晨就起不来，渐渐养成了睡懒觉的习惯。
而曾国藩生活极有规律，每天很早就起床查营，然后在黎明时分与幕僚共进早餐，或谈一天工作安排，或随意谈天说地。湘军仿照明朝的戚家军建立起来，曾国藩要求湘军将士以戚继光为榜样，特别注重抓部队的思想教育和纪律约束，一开始有很多人受不了，说打仗的时候起早点也就罢了，不打仗的时候也起这么早，不是折腾人嘛！但曾国藩丝毫不降低要求，经常灌输军人“吃得苦、霸得蛮、舍得死、耐得烦”的思想。他要求部队在6点左右就要开饭，所有人都必须早起。爱睡懒觉的李鸿章对此很不适应，深以为苦。
一天早晨，李鸿章以头痛为由想多睡一会儿，就在他准备舒舒服服地睡个回笼觉的时候，突然有人来敲门，他吓了一跳，忙问是谁。门外的人回答说是曾大帅的亲兵，奉大帅之命请他去一起吃早饭。李鸿章一听是催他起床吃早饭，便撒谎说自己头痛，不吃早饭了。
亲兵一走，李鸿章继续蒙头而睡。过了片刻，又有人来敲门，还是来叫他起床吃饭的。李鸿章心想，既然已经撒了谎，干脆就撒到底。于是，他又用谎话把亲兵打发走，继续躺在被窝里一动不动。不料，他还没睡着，刚才那个亲兵又回来了，李鸿章忍不住发火，在屋里大声嚷嚷。亲兵冷静地说：“大帅说了，今日必定等齐幕僚们才吃早饭。”
李鸿章知道躲不过去了，匆忙披衣“踉跄前往”。曾国藩看见李鸿章进来，神态很平静，一如往常。李鸿章一落座，曾国藩就拿起筷子开始吃饭，大家也跟着一起吃起来。吃饭时曾国藩一言不发，众人也都不敢出声。李鸿章意识到，这都是因为自己睡懒觉来晚了，才使这顿早饭变得如此沉闷，对此他压力很大。吃完饭后，曾国藩站起来，严肃地教训李鸿章说：“少荃，既入我幕，我有言相告，此处所尚，唯一‘诚’字而已。”说罢，曾国藩生气地拂袖而去，李鸿章“为之悚然”。
如此苦心孤诣，使李鸿章的思想、性格乃至生活习惯都深受曾国藩的潜移默化。李鸿章也向人表示自己从前也辅佐过其他将帅，但“芒无指归”，入曾幕才“如识南针，获益匪浅”。
很快，李鸿章的才能便在幕僚中脱颖而出，尤其他的吏才在弹劾安徽巡抚翁同龢一案上凸现出来，得到曾国藩的赞赏。
翁同龢作为安徽巡抚，在处理江北练首苗沛霖的事件上举措失当，以致激起大变，而他本人又在守卫定远时弃城逃走，没有尽到封疆大吏应有的责任。对此，曾国藩极为愤慨，想要上书弹劾，却苦于找不到恰当的措辞。
按曾国藩的意图，这道参折必须指责翁同龢举措不当、守城不力、弃城而逃，应予严惩。但翁同龢的父亲翁心存是前朝大学士，又是咸丰皇帝和恭亲王的老师；翁同龢的大哥翁同书是道光二十年进士，授了翰林院编修，曾任贵州学政，詹事府任少詹事；翁同龢的二哥翁同爵以父荫授官，由生员而至盐运使，历官陕西、湖北巡抚，著有《皇朝兵制考略》。翁家父子深受皇恩“眷顾”，门生故旧遍布朝廷内外，要想撼动这样一棵根深蒂固的大树，奏疏的措辞必须相当精妙，才能使皇帝破除情面，依法严惩。稍不小心，便会被人反咬一口，赔了夫人又折兵，甚至搭上自己的脑袋。
为了写好奏折，曾国藩颇费了一番心思，他先是让一位幕僚代拟，完稿后发现与自己所想相距甚远。正在他发愁之际，李鸿章出现在他的眼前，曾国藩灵机一动，打算考验一下这位学生，于是命他草拟奏稿。
李鸿章领命拟稿，不但措辞得当、逻辑严密，而且如此重要的奏折，才用了不到600字，可谓字字千钧，句句见血。此折先历数翁同龢忠奸不辨、误用歹人、举措失当、贪生怕死、连失两城的罪状，然后指出翁同龢几道奏折的自相矛盾之处，反驳他的种种自辩，使他无继续辩解的余地。李鸿章最后写道：翁同龢有如此行为“岂宜逍遥法外？应请旨即将翁同龢革职拿问，敕下王大臣九卿会同刑部议罪，以肃军纪而昭炯戒。臣职分所在，例应纠参，不敢因翁同龢之门第鼎盛瞻顾迁就”。最后这段话的立场如此方刚严正，不但使皇帝无法徇私包庇，就连朝中的翁氏故旧也无从插口为翁同龢申辩。
曾国藩看了之后，大为赞赏，立马将这份奏稿送达圣听。结果，翁同龢被革职拿问，发配新疆充军。
从此，曾国藩对李鸿章刮目相看，赞赏有加。而翁同龢则因父死兄离，与曾国藩、李鸿章结下了终生私怨。
另外，还有一件事也能窥见李鸿章的文字功底。
三河一战大败后，曾国藩很是内疚，在给朝廷的奏折中诚恳地提出了自我批评：“出师不利，臣屡战屡败，上负朝廷圣恩，下负三湘黎民之望……”
李鸿章一看不妥，这样递交上去，朝廷肯定会大怒。于是，他将自己的想法婉言告诉曾国藩。曾国藩不禁犯了难，如今官场风气日下，别看奏折里写得热闹、取得大胜，那都是老官僚和老刀笔的伎俩，细细推敲其实大多是名胜实败。曾国藩作为至诚君子，不愿讳败为胜、欺君罔上，他想了很久，问道：“那少荃觉得怎么写为好？”
李鸿章说：“其实不用故作巧言，只需将‘屡战屡败’改为‘屡败屡战’即可，先生以为如何？”
“你是说将‘臣屡战屡败’换成‘臣屡败屡战’？”曾国藩细加斟酌了一番，大笑道，“妙，太妙了！”
确实，这么一改，虽然还是没打胜仗，但语气却大不相同，说明湘军将士勇气可嘉，虽然没机会“胜不骄”，至少可以“败不馁”，湘军意志坚不可摧。“屡败屡战”可以说是曾国藩、李鸿章师徒的“共同杰作”。
当时，李鸿章在曾府除了处理文案，还参与重要军务。他把大部分心思都用在关注战事上面了。
咸丰十年（1860年），英法联军逼近京津，朝廷决定让各地督抚大员派兵勤王，咸丰皇帝逃往热河途中下的第一个命令，就是让驻守安庆附近的曾国藩派湘军精锐鲍超部北上救援京津。其他督抚大员接此廷寄，都忙不迭地派部出发，只有曾国藩犹豫不决，左右为难。
其时，湘军与陈玉成部已交战几个月，在安庆一带形成僵持局面，这个时候若抽出主力远上津京，不但前功尽弃，而且如果陈玉成趁机反扑，后果便不堪设想。但是，北上勤王责无旁贷，如果不去，很有可能会被安上一顶“不忠”的帽子，被责为天下罪人。曾国藩一时想不出什么好办法，急得几个晚上不能入眠，只得召开幕僚大会商讨对策。会上大多数人主张火速北上勤王，只有李鸿章力排众议，不同意调兵北上。这让曾国藩大感意外，瞪大眼睛等李鸿章解释。
李鸿章分析道，英法联军已进抵北京城下，破城而入只是朝夕之事，调兵北上保卫京城只能是劳师无功，毫无意义；英法联军入侵津京的目的是给朝廷施压，“三国连衡，不过金帛议和，断无他变”，真正威胁清王朝的还是太平军。因此，他主张“按兵请旨，且勿稍动”。曾国藩马上就明白了李鸿章的意思，这分明是拖延之计，不过他还是接受了这一建议，上奏折说，将派万人北上，但“鲍超人地生疏，断不能至，请于胡（林翼）、曾（国藩）二人酌派一人进京护卫根本”，利用批复一来一回的程序来拖延时间。
事实证明，李鸿章对形势的判断是正确的。僧格林沁的蒙古骑兵部队是机动性最好、回援最快的，但仍迟了一步。僧格林沁的17万多骑兵和胜保率领的5000名步卒，在八里桥与英法联军约6000人发生激战，结果一败涂地。城内守军尚有2万余人，仅少数拿着火铳的清兵进行了短暂抵抗。
十月六日，英法联军攻入海淀镇，到处烧杀抢掠，当晚即侵入圆明园，护园大臣投水自杀。10天以后，联军司令部下令可以在城内自由劫掠。十八日清晨，英国密克尔骑兵团3500余人进园纵火，一时烈焰冲天，园内的300多名太监、宫女和工匠不幸葬身火海。火势三日不熄，真可谓“一炬毁名园，千古江山留恨迹”。
战事的发展正如李鸿章所料，全无二致。曾国藩把折子递上去后，在苦苦煎熬中度过了一个来月，朝廷终于颁下旨来，称“和议”已成，鲍超、曾国藩、胡林翼无须北援。清廷最精锐的僧格林沁部万余蒙古骑兵打光了，圆明园烧了，银子也准备赔了，北援有什么用呢？各地勤王的督抚们劳师远征，皆无功而返。
李鸿章小规模地演绎了一场“攘外必先安内”的活剧，也使他对洋人的一些新式武器产生了莫名的恐惧与兴趣。此次湘军主力鲍超部得以保全，支撑着曾国藩度过了艰难的祁门岁月。但不管怎样，曾国藩这次毕竟摆了年轻的咸丰皇帝一道，他心里着实过意不去，按照儒家的忠君思想，即使明知去送死也应在所不辞。后来，他令人专门将这次献议汇集成册，名为《北援议》，以表明自己这番举动的为难处境。
李鸿章在多个紧急关头证明了自己的能力，越来越受到曾国藩的器重。不过，曾、李虽为师徒，但两人的思想和处世之道其实有很大不同，李鸿章又是个极有主见之人，因此经常与曾国藩起冲突，数次想要离曾而去。咸丰十年（1860年）秋，师徒之间因曾国藩决定移军祁门和弹劾李元度这两件事又发生了严重分歧。
同年五月，江南大营被太平军摧毁，和春、张国梁等率残部退守镇江、丹阳。太平军穷追不舍，张国梁投水而死，清军将领和春逃到无锡，结果又遭到太平军迎头痛击，无奈在浒墅关自杀，两江总督何桂清也因败逃被解职。
与此同时，没有北上勤王的曾国藩仍然升了官，被授任两江总督。显然，朝廷是以“安内”为重，将矛头对准了太平天国的都城天京（今南京）。朝廷三番五次下旨，催促曾国藩率军东进。为了便于指挥，曾国藩决定将大营移至战略位置十分重要的皖南祁门。但李鸿章认为，祁门地势如同“釜底”，没有进退余地，从战术上看，将指挥部移到此地是很危险的。为此，他冒险去祁门实地勘察，回来将那里的地形告诉曾国藩，曾国藩听了久久不语。
而太平军在第二次击破清军江南大营之后，几大领导人当即制定了分兵两路合取湖北武汉应为武昌。，以解安庆之围的计划，称为“二次西征”。根据这一军事部署，太平军决定兵分五路援赣，其中有一路便是攻打曾国藩的祁门大营。十二月一日，李秀成带精锐2万人由羊栈岭窜入，企图解休宁之围，断绝鲍超、张运兰两军粮路，结果被湘军悍将鲍超、张运兰击败，被迫退出羊栈岭。
羊栈岭距曾国藩的祁门大营仅60余里。祁门防守兵力单薄，曾国藩身边仅有3000余人，而太平军则人多势众。对于敌我形势，曾国藩何尝不是了如指掌？他当时考虑的是先向西拿下安庆，解除后顾之忧后，再向东进攻天京，朝廷却让他直接进攻天京。为此曾国藩被迫屯兵祁门，故意摆出准备起兵东进的姿态。
出于安全考虑，李鸿章、李元度等人一再要求移师他处，但曾国藩仍坚持己见。李鸿章见曾国藩不听自己的意见，很不高兴，据理力争了几句。曾国藩也懒得解释，不冷不热地对李鸿章等人说：“诸君如胆怯，可各散去。”
李元度听了心里十分难受。早在咸丰三年（1853年）曾国藩刚刚筹建湘军时，正在湖南当教谕的李元度就辞职进入曾幕，参赞军务。在湘军与太平军交战屡战屡败的艰苦岁月里，曾国藩得到了李元度的全力支持。当湘军在江西战场被太平军打得大败时，曾国藩两次跳水自杀，都被李元度劝阻和解救，李元度可以说是他的救命恩人。后来，李元度在曾国藩的举荐下，升任徽宁池太广道。
几天后，李元度奉命去徽州抵抗太平军主力。曾国藩担心他有闪失，临行时与他约法三章，要求他坚壁自守，万万不可出城作战。谁知李元度到了徽州，就把曾国藩的告诫忘得一干二净，一是经不起太平军的有意挑战，二是经不起部下的怂恿，三是经不起建功立业的诱惑，最终率兵出城，结果中了太平军的埋伏，不仅出城官兵死伤无数，而且徽州城也守不住了。李元度带着几十人，乘乱杀开一条血路逃生。
徽州城一失，祁门就变成了火线，随时都有可能被太平军“包饺子”。
李元度在浙赣边界打了一段时间的游击，心有不安，又回归曾幕。但他并不认为自己有错，在检讨中文过饰非，极力为自己开脱。曾国藩一气之下，关了他几天禁闭。解禁不久，李元度因与曾国藩怄气，又径自离去。曾国藩大为恼火，决定具奏弹劾李元度，以申军纪。李鸿章及众幕僚都坚决反对，认为李元度守不住徽州城完全在情理之中，不要因此对他追责。李鸿章半是质问半是陈情地说：“当年靖港大败之时，先生想跳水自尽，是李元度亲手把您救起来的。这些年不少人借故离去，而李元度一直跟随您，对您的支持和忠诚始终不渝。但李元度好为‘文人大言’，并非将才，让他领军防守徽州本就不妥；如今他吃了败战，主帅应负大部分责任，而您不仅不帮忙担责反而要弹劾他，未免会背负不仗义之名。”
曾国藩则认为私情不能代替军纪，坚持弹劾李元度。
李鸿章坦率地说：“如果一定要奏劾，学生不敢拟稿。”
曾国藩生气地说：“本部堂帐下并不缺你一人，不烦你大驾！”
“既然这样，那学生告辞，没有必要在这里待下去了。”李鸿章无奈地说。
曾国藩激愤不已，怒道：“悉听尊便！”
于是，李鸿章扬长而去。他对人说自己原本认为曾国藩乃豪杰之士，能容纳不同意见、各种人物，现在才知道并非如此。离开曾幕后，他准备前往江西，独自开辟一片天地。
幸运的是，李秀成此次出兵的目的并非想争夺祁门，而是想到湖北招兵买马，而且他对“二次西征”始终不感兴趣，更多的是想保存自身实力，所以，他在羊栈岭受到阻击后，不想硬拼，主动向西而去，放弃了进攻祁门的大好战机，使曾国藩绝处逢生，捡了性命。
曾国藩认为自己身处险地，极大地鼓舞了士气，所以才将太平军赶走，并没有从中吸取教训。他还没高兴多久，太平军就杀了个回马枪。
咸丰十年（1860年）十二月中旬，太平军兵分三路，再次向祁门地区发起进攻，曾国藩四面楚歌，又一次陷入惊恐之中。他在家书中说：“自十一月以来，奇险万状，风波迭起。文报不通达五日之久，饷道则断绝了二十余日。”情况十分危急，此时湘军在祁门周围可调动的人马只有鲍超、张运兰部一万余人，加上乐平、婺源的左宗棠部，充其量只有两万人。曾国藩急调悍将鲍超救援。鲍超不顾一切与太平军血战，打通了粮道，助曾国藩暂时度过了危机。
此后，太平军又连续对祁门大营发起进攻，并于次年初进至离祁门仅20余里的地方，又使得曾国藩文报不通、饷道中断，陷入绝境。此时，他悲观到了极点，抱定誓死决心，写下家信把后事都交代好了。他在给儿子曾纪泽的遗嘱中写道：“这里局势危急，恐怕难支持下去”，“眼下局势万分紧张，四面阻塞，接济已断，受此挫折，军心尤为震动”，“你们长大以后，万万不可涉历兵事，此事难于见功，易于造孽，尤其易给后世留下口实。我久处军中，日日如坐针毡”。
自到祁门以来，曾国藩没有一天轻松过。驻防祁门，险象环生，一波三折的战局使他恐惧不已，一年多来没有一日不是处在惊恐之中。此时，他的耳边似乎又回响起学生李鸿章的话来：“祁门是绝地！”
就在曾国藩几乎绝望的时候，他的湖南老乡左宗棠率领另一支湘军在江西景德镇向太平军发起了一次较大规模的进攻，威胁到围困祁门的太平军的后路，迫使其撤围而去。曾国藩再一次捡回了性命。
李鸿章离开曾国藩后，在江西也不顺利。那段时间他的夫人周氏生病，他既要忙于照顾夫人，又要四处找关系，为自己谋求出路。期间他曾向丁未同年沈葆桢去信询问福建的情况，想去补闽道员之缺。沈葆桢回信劝阻了他。他又走访了胡林翼，胡林翼也劝他说：“少荃啊，听愚兄一句话，你本不是池中之物，以你的才华和能力，定不会久居人下，自有飞黄腾达、大富大贵的一天。涤帅（指曾国藩）待你非同常人，在涤帅府自是没有不成功之理。涤帅‘年家子’的身份,不正是你青云直上的羽翼、一日千里的车马吗？你千万不要意气用事。”李鸿章环顾左右，也深深明白当时可“赖以立功名”者唯有曾国藩，心中已然动念：好马也吃回头草。
随后，胡林翼写信给曾国藩，希望他听从李鸿章的建议，离开祁门，移师东流镇。所谓“青出于蓝而胜于蓝”，胡林翼觉得李鸿章展现出的杰出的军政才能已经超过迂腐的涤帅，战略和用人眼光独具一格。
曾国藩经过冷静思考，也认为李鸿章的战略预见是对的，胡林翼的看法很有道理，便于咸丰十一年（1861年）四月写信给李鸿章，请他出任南昌城守，以抗拒南路的西征太平军。他的信写得很有水平，也颇有韵味：
阁下久不来营，鄙人对此颇为不解。以公事而言，你与淮扬水师各营官有堂属之名，岂能无故弃之，不知行踪！以私情而论，去年你出幕时，并没有说再也不回来。今年春天祁门陷入危险之中，怀疑你有曾子避越之情；夏天东流稍为安定，又怀疑你有穆生去楚之意。鄙人遍身热毒，内外交病。诸事搁置而无法实行，已有50天没有向朝廷奏事了。如无醴酒之嫌，请速来相助。
阅信后，已经游荡七八个月、无所事事的李鸿章终于动了心。
同年五月，曾国藩从祁门撤出，将大营设在靠江岸停泊的大船上，由水师护卫，再无被围攻之虞。李鸿章一直关注着曾国藩所部的动向，在湘军进攻安庆连获几次胜仗时，他借机写信致贺。以曾国藩的历练，一眼便知这是李鸿章回心转意的试探，于是捐弃前嫌，写信说非常欢迎他回来。七月十三日，李鸿章赶至东流镇，重新投身曾幕。
四、临危挑大梁 受命组淮军
8个月的分离，使李鸿章和曾国藩有了说不完的话题，尽管两人都一身疲惫，但彻夜热切的交谈，使两人胸中的激愤与意气都得以冰释。
曾国藩觉得李鸿章在外面经过大半年的磕绊，依然像从前那样壮志雄心不减，对老师的意思领悟深透，书生意气却无影无踪，咄咄逼人的锋芒小心隐藏，这不正是自己刻意要塑造的吗？此时曾国藩虽身带疾病，但脸上的病容却一扫而光。李鸿章从他那兴奋的眼神中真切地感受到了恩师的情谊，也隐约地感到自己的政治生涯也许将就此出现转机。
不过，他并没有对未来前景的美好憧憬，没有欲充“栋梁材”的兴奋，只有几许“济时谁识栋梁材”的伤怀。那种历时劫而尚存的“忠孝性”是他爷爷长期以来教导的，也是从父亲身上遗传的。磨去了浮夸的劣性，他变得更加务实了，开始扎扎实实地工作。
不久，朝廷中发生了变故，咸丰十一年（1861年）八月，咸丰皇帝奕病逝，他的儿子载淳继承皇位。因载淳年方6岁，于是推举了载垣、肃顺等8人为赞襄政务王大臣。同年十一月，政治野心一向不小的慈禧太后利用回銮的机会，联合居京的恭亲王奕䜣，在英国公使卜鲁斯等外国势力的支持下，回到北京即发动了震惊中外的宫廷政变，诛杀肃顺，赐死载垣、端华，革职或流放其他赞襄政务大臣，篡夺了清朝最高统治权。慈禧为载淳举行了登基大典，改次年为同治元年，自称西太后，任命恭亲王奕䜣为议政王，主持军机处及刚刚设立的总理各国事务衙门，随即实行东西两宫太后共同垂帘听政。
是年，国内形势对南方子民来说极为严峻。长江中下游一带的战事越来越紧张，太平军在“合取湖北”、保卫安庆的战斗失败以后，采取了西线防御、东线进攻的战略，以闪电之势击破官军东面防线，快速攻占浙东、浙西数十城镇，直捣杭州，上海随即陷入太平军的重重包围之中。浙江巡抚王有龄兵败自杀，江南除镇江和上海为朝廷掌控外，大部分地区都被太平天国占领。江苏的官僚和士绅惶惶不可终日，他们一面倡议向英法等国“借师助剿”，迅速成立“中外会防局”，以期依赖洋人的武力来保卫上海；一面又选出士绅代表——前清名臣钱宝琛（浙江巡抚）的儿子法部主事钱鼎铭与厉学潮等人前往安庆向曾国藩求援。
此时，湘军已收复安庆，曾国藩被赏加太子少保衔，声威正盛。钱鼎铭、厉学潮等人效法春秋时楚国贵族申包胥到秦国痛哭求救的故事，于十一月十八日乘外轮到达安庆，拜见曾国藩，呈递沪绅公启私函，声泪俱下地表示上海将怯卒惰、旦夕不可依恃的情形，并诉说上海士绅们渴盼曾帅，犹如久旱之地盼甘霖。钱鼎铭、厉学潮哀求曾帅早早派兵，以解上海之围。曾国藩左右为难，他既担心上海距安庆千里迢迢，兵派少了，无济于事；若多派兵，又深感手下无兵可分，因而不敢贸然应允。
钱鼎铭见曾国藩犹豫不决，便以“世交”的身份去拜访李鸿章，求他出面说情。钱鼎铭鼓动李鸿章说：“上海是一块大肥肉，富得流油。那里是商贾云集、财赋收入超过几千万两的膏腴之地，而且还有从海上源源不断运来的洋玩意。如果巨大的财富落入贼寇之手，未免太可惜了，而且还会给官军剿贼带来更大的困难。”他怂恿李鸿章主动请缨。大上海是人间天堂，李鸿章听了怎会不动心？他爽快地答应与钱鼎铭一起去做曾国藩的工作。他深知自己的老师生性“儒缓”，每有大计常犹豫再三，需要有人帮他下决心。于是，李鸿章见到曾国藩后直奔主题，强调分兵援沪，既能控制饷源重地上海，保证每月得到白银10万两济军；“由下捣上”，又可以达成东西两线互相配合、分进合击之势，迫使太平军陷入两面作战的困境。十一月二十一日，曾国藩在日记中写道：“少荃商量救援江苏的方法，因钱鼎铭来此请兵，情辞深痛，不得不考虑答应下来。”
其实，与其说是“情辞深痛”打动了曾国藩，倒不如说是巨大的利益诱惑使他无法抗拒，其中包含了政治、军事、经济等实际利益。同时，朝廷屡诏敦促，令曾国藩移师东指，收复苏、常、杭失陷郡县，五日之中，严谕四下。曾国藩几经掂量，决定派左宗棠率兵前往浙江作为南翼出击，准备为收复江浙建立一支新的军队。随后，他开始考虑组建新军的人选问题。
曾国藩对领兵援沪的统帅，做了周密的遴选和安排，起初决定派其弟曾国荃前往，继而改为以曾国荃为主帅，辅之以李鸿章、黄翼升。但十二月三十一日，曾国藩接到曾国荃拒绝援沪的信件。原来，曾国荃正在围攻太平天国都城天京，一心想尽快攻克而立首功，不想去援救上海。据说，曾国荃在这场大战中抢得大量金银财宝。曾国藩不得已，又邀请湘军老将陈士杰出山，陈士杰已在家乡招募了上万子弟兵并积极训练，但他以老母需要照顾为由，就是不发兵。曾国藩赶紧命令距离上海很近、正驻扎在镇江的清军总兵冯子材火速援沪，但军令发下去后，如石沉大海，一直得不到冯子材的回信。
去上海是剿匪而不是巡游，所以这些人找了种种由头加以拒绝。曾国藩无奈，只得重新选派一个值得信赖又有军事才能的人去。由于连年征战，三湘地区的兵源已经枯竭，如果能利用两淮将领组建新军，在某些方面辅佐或者代替湘军作战，将是一个不错的选择。最后，曾国藩想到了李鸿章，只是不知怎么向他开口。
此时，李鸿章仅管着湘军一支小小的水军。他重返曾幕后，从政务到军务，在曾国藩的调教下，获益匪浅，进步很快；而李鸿章的独特见解更是让曾国藩十分赏识。他们一快一慢，一急一缓，真可谓相得益彰、珠联璧合。但是，湘军中的指挥官大多是湖南人，他们的老乡情谊非常深厚，而李鸿章作为安徽人，即使得到了曾国藩的赏识重用，也无法得到更大的军权，让他带湘军去上海，更会引起湖南帮的嫉妒和不满。毫不夸张地说，在湘军军营中，李鸿章可谓举步维艰。
李鸿章不仅与左宗棠关系不好，与胡林翼的关系也很微妙，还与彭玉麟玩过“摔跤”。有一次，彭玉麟对他的生活作息进行攻击：“少荃每日晚睡懒起，想必安徽的民风便是如此，难怪安徽人以担货贩卖为生，很少走上仕途的。”李鸿章则抓住彭玉麟的父亲曾在安徽当官一事，反唇相讥：“雪琴（彭玉麟字）有所不知，安徽民风勤勉，但自从令尊执政数年，竟让百姓做慵懒之态。”彭玉麟听了，立马挥拳打向李鸿章，李鸿章也不甘示弱，还手相向，两人在地上扭打成一团……这种经常发生的不愉快的经历，让李鸿章有一种寄人篱下的感觉，他因而郁闷地写道：
昨梦封侯今已非，四海无家行路难。
戈马飘零为何过，青山沦落十几年。
在这种情况下，李鸿章虽然很想得到这个难得的机会，但他选择了静观局势，耐心等待。在曾国藩预选的将领都拒不领命后，他才主动请缨。据说李鸿章“欣然以肃清自任”。曾国藩笑道：“少荃你若去了，我当高枕无忧。只是身边少了一个得力助手，怎么办呢？”李鸿章仍坚请前往上海。这种变化，为李鸿章日后创立淮军从而掌握兵权、控制饷源重地上海、登上江苏巡抚的宝座开辟了道路。
不过，此时的李鸿章仍是光杆司令一个，短时间内去哪里拉起一支可以打仗的队伍呢？考虑到“徒党星散”“立时募练”困难重重，他首先想到了两个地方：一是老家庐州肥东，那一带旧有团练十分强悍，而他对当地人情也较为熟悉，所以罗致并改编庐州一带旧有团练，可以作为新军的基础；二是淮南安庆，借助曾国藩的影响力和庐江进士刘秉璋的人际关系，招兵应该不会太难。他打定主意后，立刻从安庆动身返归故里，准备在两淮地区同时征募新兵。
两淮自古就是一个神奇的地方。这个以道路、山脉和放射性河流组成的地方，连接着中国的北部、中部和东部，地理位置尤为重要。更神奇的是，这块土地居然还培养了两种性格截然不同的人。
淮南多出商人和文人，如精明世故的胡雪岩等；而淮北则多出军事人才，说白了就是大兵和悍匪，如骁勇善战的刘铭传等。原因很简单，两淮耕地少，而且耕地比较贫瘠。土里种不出吃的，就只能外出找门路，而外出只有两种选择：打工或者当兵。对此，淮南人多选择前者，而淮北人多选择后者。尤其是合肥西乡，民风彪悍，个个争勇好斗。他们有自己的武装组织，头儿称为圩主。太平军只要敢来，他们就会群起而攻之；太平军一走，圩主之间常常为了争夺战利品而再次开战。
这么一块神奇的土地，注定要出现无数传奇的人物。周公山上的张树声、张树珊兄弟，哥哥善谋，弟弟善战，兄弟二人配合默契，无往而不利；紫蓬山下的周盛波、周盛传兄弟，经历大小200多次恶战，6个兄弟战死4人，手下死伤数千；大潜山的刘铭传，更是一个闻名遐迩的传奇英雄。另外，还有吴长庆及唐殿魁、唐定奎兄弟等，也是不可小觑的地方势力。
李鸿章坐镇庐州，先是将目光投向了庐州一带的旧有团练。咸丰十一年（1861年）十二月十二日，他给自己的学生、当地团首潘鼎新写了一封私信，不过信中所谈的都是公事：
曾帅有意令阁下按照湘军营制募练500人，口粮与张遇春的淮勇一样。只是考虑到楚军不用长杆火枪，专用抬炮小枪，轻重大小完全一致，步伍连环亦有约束，而阁下所部未必能马上降心相从。如愿学习楚军纪律及行军扎营的神速，请回信告知，再以专札调赴安徽，勤加训练。楚军招募，准领枪炮、器械、帐篷，起程时支小口粮，勇夫每日给钱百文，到营点名后给大口粮。此前已寄给阁下营制刊本，可覆案照请……
此时两淮地区早已是山头林立，圩主横行。三山的首领、周公山上张树声的团练是合肥诸多团练中声势最大的，他听说李鸿章回皖招募新勇，马上召集当地各团练头目开会商议，几位兄弟一合计，觉得李鸿章给出的好处不少，都同意抱团加入新军。于是，张树声写信给李鸿章，表达投效之意。李鸿章阅信，大喜过望，立即请张树声前来安庆面商。
在席间，他们畅谈用兵方略、规复计划，相谈甚欢，十分默契。张树声不仅自己募勇相从，还左提右挚，动员刘铭传、潘鼎新等人“各建旗鼓”。安庆一带又有刘秉璋的鼎力相助，招募新勇之事进行得非常顺利，大大出乎李鸿章的预料。
与此同时，李鸿章还命令三弟李鹤章回合肥招募旧部团练，响应投军的有内亲李胜、张绍棠，昔年好友德模、王学懋，以及李文安的旧部吴毓兰、吴毓芬等。庐州一时盛传一句顺口溜：“会说合肥话，就把洋刀挎。”在这样的煽动和蛊惑下，一批批跃跃欲试的两淮子弟，开始源源不断地投身于淮军之中，淮军队伍迅速壮大起来。
同治元年（1862年）二月，李鸿章所募淮勇数营陆续抵达安庆，其中有刘铭传的“铭”字营、张树声的“树”字营、潘鼎新的“鼎”字营、吴长庆的“庆”字营。除上述4营外，还有从湘军中调来的张遇春的“春”字营。这些凶猛无比的乡勇小头目，注定会成为淮军的主要将领，成为李鸿章的左膀右臂。
当曾国藩站在安庆北门外阅兵时，不禁大吃一惊！李鸿章就像变魔术一样，一下子变出几千名两淮官兵。
当然，要使这支以团练乡勇为主的队伍成为正规化的军队，李鸿章和曾国藩还花费了一番工夫。
首先，他们给这支部队取了一个响亮的，在历史上不输湘军甚至完全取代湘军的名字——淮军。同治元年（1862年）三月四日，一个永载史册的日子，这一天，淮军正式成立。
其次，健全建制章法。淮军在器械、薪粮方面，全部按照湘军章程，同时用楚军营规加以训练。但因时间紧迫，李鸿章深知淮军弁勇素质差，人心不齐，训练时间短，装备落后，战斗力有限，尤其缺少有勇有谋的统领，于是向曾国藩提出从湘军中调拨一批人来充实淮军的领导力量。他对曾国藩说：“敝部除张遇春一营外，均为新勇，战守难恃，远征异地，如果没有精兵良将，难免有倾覆败亡的危险。”曾国藩也有同样的看法，既担心淮勇不堪一击，又打算以湘军作为榜样，改变淮军风气，因此满口答应李鸿章的请求，陆续调拨湘勇10营归其节制。其中整营拨归淮军的有：
1.属于湘军系统的“春”字营（张遇春）和“济”字营（李济元）；
2.太平军降将程学启的“开”字两营；
3.湖南新勇“林”字两营（滕嗣林、滕嗣武）以及后到的“熊”字营（陈飞熊）和“垣”字营（马先槐）；
4.曾国藩送给李鸿章作为“赠嫁之资”的亲兵两营（韩正国、周良才）。
这样一来，李鸿章手下便有了15营，共有6500多弁勇和2300多名长夫。
湘淮“本系一家，淮由湘出，尤育水源木本之谊”，因而湘军和淮军在体制上基本一致。湘军是仿照明代戚继光的治军方法，分营立哨。而淮军又是比照湘军体制，也以营为相对独立的作战单位，设营官一员，每营分前、后、左、右4哨，每哨设哨官、哨长各一员，每哨正勇分为8队，1、5两队为抬枪队，2、4、6、8各队为刀矛队，3、7两队为小枪队。刀矛、小枪每队正勇10名，抬枪每队正勇12名。每队又置什长、伙勇各1名。每一哨官有护勇5名，伙勇1名。合计每哨官兵共有108名，4哨官兵共有432名。此外，营官还有亲兵6队，不置哨官、哨长，各队直属营官调遣。其中1、3两队为劈山炮队，2、4、6各队为刀矛队，5队为小枪队。各队均置什长1名，亲兵10名，伙勇1名，合计6队共有72名。连亲兵与4哨合计，每1营官统带504名。综合一营作战兵力，包括劈山炮2队、抬枪8队、小枪9队、刀矛19队，共有38队。每营除正勇外，还额外设长夫180名，用来运送辎重、粮草和干粗杂活，协助正勇，使他们出征时无误战事，平常驻防则可致力操防，这就是长夫制度。此外，淮军还因袭了湘军的薪粮、恤赏、濠垒、营务处、粮台等制度。
在管理、指挥权限上，原则上是兵为将有。淮军各营的头目一般是招募者，先设营官，然后以营级将领为中心招兵。这些弁勇与地方官府没有多少关系，各营一般以营官的名字命名。后来，李鸿章对李宗羲说：“涤帅与弟，治军十余年，皆先选将，而后募营，其营哨须由统将自择，呼应较灵。”之所以“呼应较灵”，就是因为这种制度使统领、营官、哨官成了大帅的私属，一营之中环环相扣，弁勇听从营官和哨官指挥，营官和哨官听从统领指挥，统领则听从大帅指挥，因此，湘军只服从曾国藩指挥，现在淮军成了李鸿章“私产”，自然是听他指挥。不仅其他省区的将帅指挥不了，就是朝廷也难以直接调遣。
不过，淮军组建仓促，在很多方面与湘军存在差距。
第一，兵将冗杂。湘军的组建原则是“选士人，领山农”。湘军将领一般是一些追名逐利但政治地位不高的地主阶级知识分子，其中有科名的多达30人。曾国藩曾经洋洋自得地说：“我的这些手下，可以白天打仗，晚上讲学。”淮军则有所不同。李鸿章的淮军将领中，只有刘秉璋一人是进士，另有举人、廪生各一人。他的同党唐殿魁、唐定奎家，打仗能行，读书不行，200年间，整个唐氏家族仅考中了一个秀才。张树声兄弟、周盛波兄弟介于土匪和刁民之间，吴长庆则兴于行伍……李鸿章本人身为翰林，但却鄙薄那些以科名相标榜的人。他重视的不是门第身世，而是才能韬略；加之急于成军，饥不择食，广收杂揽，因此淮军头目多为地方团首、降将、盐枭、防军等，比如郑国魁，他是合肥人，巢湖上的盐枭出身，因触犯族规杀死族长，从家里逃了出来，成为太湖上的土匪头子，太平军得势的时候曾在太平军里混过，淮军新建，他又投奔了淮军。
第二，志在利禄。曾国藩是一位理学家，特别注重对湘军灌输忠勇思想及进行军事训练。在将士素质上，曾国藩要求“凡招募士勇，取技艺娴熟、年轻力壮、朴实而有农人气质者；不用有市井衙门气者”；而在将官任用上则选择绅士与儒生，其主要将领大多是有同乡、同学、师生、亲友关系，且气味相投，是讲求“忠君”“卫道”的程朱理学忠实信徒。归根结底，他们必须肯为维护封建统治秩序做出个人牺牲，即具有“忠义血性”者，以能为封建主义制度效忠的政治标准为根本原则。而李鸿章的手下将领大都是“山大王”，他们更多的是讲义气、讲利益，所以李鸿章就像刘邦一样，舍得将利益馈赠给部下，“重赏之下，必有勇夫”，虽然他也“辨等明威”，但主要还是以功利作为激励手段，用功名利禄诱使将士为朝廷流血卖命。正因为主帅的判断标准不一，湘军和淮军表现出两种不同的气质。
第三，太重情面。李鸿章深知安徽人的心性，面子比天大，乡情比地深，只要够交情，要头也能给。哪怕有一丝八竿子打不着的“关系”，说有用的时候就有用了。所以，他尽可能把老乡的关系用足用透。利用这种动之于乡情的手段，曾国荃的手下悍将、安徽桐城人程学启也被他“挖”了过来。他的大哥李瀚章，湘军粮台（后勤部）出身，这时也崭露头角，在他担任广东布政使、两广总督期间，一直是淮军最坚定的后援；他的三弟李鹤章、六弟李昭庆也是他的好帮手，他们在家乡时就统带乡勇出战。即使如此，还是远远不够，李鸿章又想到了从小玩到大的同乡好友蒯德模和蒯德标兄弟、王学懋等人。
此外，李鸿章还发掘了身边的人才。
周馥，字玉山，安徽建德（今东至）人，才华横溢。周家重视读书，虽然家道因战火而没落，但仍然不废学业。为维持生计，周馥先在八卦门正街摆个测字摊，还兼帮人写书信，后又搬到李鸿章安庆寓所马王坡附近。曾国藩在咸丰十一年（1861年）打下安庆后设木匦（意见箱）时，周馥投的意见稿让他看了大加赞赏，因此，李鸿章为拉拢周馥，把自己每月为数不多的几两银子薪水与周馥共享。此次前往上海，周馥自然拼死也要追随李鸿章一起去。
凌焕，与李鸿章关系非比寻常，是道光二十年（1840年）的乡榜同年，曾进过临淮袁甲三、都兴阿的幕府充当文案，沉稳干练，后来负责办理淮军的后路粮台。
刘瑞芳、刘含芳兄弟，安徽贵池人，刘瑞芳擅长与人打交道，后来担任过驻外公使，而刘含芳到上海后则负责军械粮饷的供应。
李鸿章脑海中还浮现出此次和他接洽的上海名流，开始盘算到上海后如何拉拢这些人。
淮军体制建立起来后，李鸿章遵循老师曾国藩的成法，亲自对他们进行了短期的强化训练：基本功是要能攀得上高楼，跳得过宽沟，以便能踹破敌营设哨；要能手抛火球到数丈外；要能腿绑沙袋日行百里。还要淮军学习扎营设哨：无论攻城还是野战，必先扎营，无论风雨寒暑，不厌其烦，营没扎好不准休息，也不准去搦战。淮军站墙子（营垒站哨）的弁勇较多，白天十分之三、晚上十分之一，这种设哨之法增加了快速发现来敌的概率，也提升了部队的反应速度。
直到此时，李鸿章才真正拥有了可以独立行使指挥权的队伍——淮军。
