经过近半年的跋山涉水，桓温等人终于到达了谯郡。
其实从邺城到谯郡并不远，正常情况下三个月即可到达，但此时的中原大地经过多年的战乱，早已是荒芜一片，到处都是满目的凄凉，有时候走上一整天都见不到一个人影，野兽横行，荒草凄凄；这让纯靠双腿行走的桓温等人走的十分的艰难，不但粮草补给十分困难，而且还要防备路上不时出现的胡人武装，其实这些胡人武装大都是普通老百姓，因受到汉人不断的攻击而选择返回草原，但是在路上相遇时也会互相攻伐，这些胡人攻击性很强，只要看到你是汉人打扮就会立即攻击，根本不给你反应的机会，虽然每次桓温都能逢凶化吉，但是也经过这样的折腾，士兵们不断的掉队，等到达谯郡的时候，队伍已经只剩下不足一百人了。
当桓温远远的看到城墙之上飘扬的大晋旗帜的时候，激动的泪水再也止不住的流了下来，自永和六年桓温自新蔡县北上开始，到现在已经是永和八年，不足三年的时间里，桓温游历了豫州的颍川、许昌，司州的荥阳，冀州的襄国、邺城，接触到了胡人当中的羌族首领姚襄、匈奴铁弗部的刘卫辰、羯族皇帝石祗、丁零人翟真、鲜卑慕容部的悦绾、慕容评、慕容恪以及鲜卑段部等各部族武装，虽然历程艰险，但是也极大的开阔了桓温的眼界，丰富了他对北方地区的风土民情、山川地形、各胡族的历史文化以及部族武装的了解，为以后的北伐打下了坚实的基础。
不同于桓温的励精图治，在这里殷浩却是熬，这三年里他成功的熬死了江州刺史褚裒，顺势把江州的军政大权也揽到了自己的手里，他熬死了一直对他颇有偏见的中书令何充，熬到了一直支持自己的司马昱上位，司马昱总揽大权之后，给予了殷浩相当大的支持，允许他参与朝政、可以任意调动各州的部队粮草，允许他在北伐之时任意的处置官员，司马昱甚至拿全国的资源支撑他的北伐，正是在获取了足够的政治资本之后，殷浩这才开始认真北伐。
其实在这三年里对东晋来说北方的形势是一片大好，中原实力最强的赵国内乱，冉闵崛起后乱杀一通，使得原本臣服于羯赵的其他各族武装纷纷向东晋投降，秦州的氐族首领苻建，在苻洪死后向东晋称臣；鲜卑慕容部的慕容皝、鲜卑段部的段龛，在分别自称燕王、齐王后第一时间向东晋称臣，鲜卑拓跋部的拓跋什翼键，石虎在时被封为代王，在赵国灭亡之后也选择向东晋称臣，羌族的姚弋仲连王都没有称，在死之前特意向继任者姚襄嘱咐向东晋投降；就连跟东晋有血海深仇的赵国相国、汝阴王石琨，在刘显杀害石祗之后也选择出逃东晋，但可惜的是东晋朝廷容不下这个残害汉族百姓的蛇蝎将领，最终在司马昱的坚持下，将石琨斩杀于建康。
不光是各胡族先后向东晋称臣，就连形势一片大好的冉魏政权的各地方势力也先后向东晋投降，冉闵虽然勇冠三军，但是暴虐异常，常常因为一件小事而滥杀无辜；在石虎手下为将之时就常常屠城，而屠城杀害的又多是自己的同胞汉人百姓，石虎死后又将他三十八个直系子孙杀的一干二净；在称帝之后，仅仅因为有所怀疑就将扶自已登基的李农及三个儿子全部杀死，李农是乞活军的领袖，是乞活军传奇人物乞活帅陈午亲自指定的继承人，在乞活军全体将士当中占有十分重要的地位，可以说是整个乞活军的灵魂人物，当年冉闵杀死石鉴之后，手头只有三千将士，不敢称帝，正是在李农的乞活军的大力支持下，才敢登基称帝建立了冉魏政权，如此重要的人物，仅仅因为冉闵的一点点怀疑就直接灭门，这让许多一直效忠于李农的将领开始与冉闵离心离德；而后冉闵又杀了向自己进献忠言的卫将军王泰全家，这直接给冉闵的声望带来了灾难性的后果，正是在这样的背景下，兖州刺史刘启、豫州刺史张遇、冀州刺史魏脱，以及冉闵派驻到廪丘的部将周成、野王的部将高昌、卫国的部将李立，也都纷纷向东晋投降。
此时的形势可以说是一片大好，殷浩也是满心欢喜，在司马昱的大力支持下，在隐忍了两年之后，殷浩开始全部北伐，他派西路军主帅、镇东将军谢尚前往许昌受降，占据许昌的张遇原本只是许昌太守，在冉闵击败姚襄之后，姚襄率军退回滆头，张遇趁机攻打颍川，占据颍川的匈奴铁弗部的刘卫辰见势不妙，立马率领本族武装逃回了代郡，张遇不费吹灰之力就占领了颍川，冉闵为了拉陇张遇，便封张遇为豫州刺史，但是张遇已对冉闵失去信任，依然坚持投降东晋。
张遇投降后，濮阳门洞大开，谢尚下属将领河南太守戴施见有机可趁，率军攻占了濮阳，将东晋的北方边界首次推到了黄河流程。
在谢尚前往许昌受降的时候，西路军副帅、历阳太守陈逵也没闲着，这陈逵可不一般，他是三国名士陈群的直系后裔，在讲究家世背景的东晋备受推崇，此次北伐被殷浩任命为西路军副帅，在兖州刺史刘启携鄄城投降之后，谯郡就陷入了孤立无援的地方，陈逵趁势攻打谯郡，也很顺利的拿下了谯郡，由于谯郡四通八达的便利位置，殷浩将谯郡打造成了一个重要的粮草中转站，用于支援周围北伐各路大军的粮草供应。
在西路军获得良好开端的同时，东路军也在蠢蠢欲动，东路军是以荀羡为主帅，以蔡裔为为副帅，领军五万进驻下坯，目标直指东海、广固等地，可惜的是，此时占据青州一带的段部鲜卑首领段龛自称齐王后，迅速的向东晋上表请臣，东晋册封段龛为齐公、镇北将军，既然都是一家人了，也就没必要再打了，失去目标的荀羡不死心，派副帅蔡裔偷袭了徐州的彭城，彭城失陷后，兖州刺史刘启大受震动，主动携甄城投降，殷浩上书为荀羡请封，掌握朝政的司马昱封荀羡为兖州刺史，监青州诸军事，蔡裔为青州刺史，兼领彭城太守。
东西路大军都大有斩获，其战果超过了之前的王敦北伐、庾亮北伐，虽然大部分战果都是对方主动投降的结果，但是这依然不影响殷浩的声名鹊起，而在这三年里桓温又销声匿迹，毫无作为，与殷浩形成了鲜明的对比，朝廷上下都开始视殷浩为救世主，惟一能够对抗桓温的人。
而就在殷浩志得意满的时候，许昌传来令人震惊的消息：张遇复叛了。