桓温在率军向淮南进发的同时，为了避免两面受敌，因此奏请朝廷请求兖、豫二州分别出兵淮水、泗水河畔，以备前燕军突然南下，致使桓温腹背受敌。
主持朝政的司马昱觉得这没有什么不妥，于是便让兖州刺史荀羡、豫州刺史谢尚分别出兵一万布兵于淮水、泗水河畔，以防备前燕军。
桓温行军至淮南郡之后，淮南太守袁宏出城三十里迎接桓温，上一次见面之时，还是袁宏担任寿春太守之时，那时的桓温刚刚从北地逃回来，一身的疲惫，狼狈不堪，可即便如此，袁宏依然对桓温尊敬有加，这让桓温十分的感动，因此引袁宏为知已；
此时桓温前来，特地带来了美酒佳肴，就是想要报答当年袁宏的接待之情，袁宏也没有推辞，二人乘船泛舟于淮水之上，两岸景色如画，微风拂面，令人沉醉，二人把酒言欢，回忆过往，畅谈未来，好不热闹。
二人把酒言欢之时，桓温登高远望，望着淮水北岸的中原故土，不由的感慨道：“国土失陷，中原百年来成为一片废墟，王衍等人推脱不了他们的罪责！”
桓温口中的王衍，是西晋重臣，出身琅琊王氏，历任黄门侍郎、中领军、尚书令、尚书仆射等职。晋惠帝时，升任司空。后又任司徒。
王衍位高权重，却不认真考虑国家的治理，只想方设法保全自己。当时正值八王之乱，天下局势繁乱复杂，为使自己及家族长久生存下去，他精心营造了一个退路。
青州和荆州都是当时的军事要地，物产也很丰饶。因此，他让弟弟王澄、族弟王敦分任荆州、青州刺史，并对王澄、王敦说：“荆州有长江、汉水的坚固，青州有背靠大海的险要。你们两个镇守外地，而我留在京师，就可以称得上三窟了。”这就是狡兔三窟的来历。
因为王衍实在太过自私，所以当时有见识的人都很鄙夷他。
永嘉五年的时候，东海王司马越去世，王衍奉其灵柩返回东海，途中为羯人石勒所俘获。王衍在与石勒交谈时，仍推脱责任，并劝其称帝，石勒大怒，觉得这样的人留在世上完全就是在浪费粮食，所以就决定处死他，因王衍位列三公，便选择一个不流血的死法，将他与其他西晋旧臣一同活埋。
王衍临死时，看着别人说道：“唉！我们即使不如古人，平时如果不崇尚浮华虚诞，勉力来匡扶天下，也不至于到今天的地步。
桓温在这里提到王衍，其实并不是在追究他身居高位不思报国的失职行为，而是拿王衍暗讽当时东晋社会士人阶层流行的玄学风气，王衍是西晋时期着名的玄学清谈领袖，常常与一众大臣聚在一起夸夸其谈，却无力阻挡五胡入华，不仅丢了疆土，还把自己和百姓的命搭进去。
然后桓温不知道的是，袁宏也是一位清淡家，爱好谈玄，所以在听到桓温将失国的责任归究于王衍等清谈家的头上的时候，很是不高兴，于是便为王衍开脱道：“天命运数自有兴废，不一定是那些人的过错。”
袁宏的话让桓温很不高兴，东晋朝廷上下就是因为这些清谈家整日夸夸其谈，而不思为国谋政，才日渐沉沦，整个社会弥漫着一种腐化糜烂的风气；
于是便有意想吓唬吓唬他，所以便脸色一变，对袁宏正色的说道：“我听说东汉末年的时候，荆州刺史刘表曾经养过一只千斤重大牛，这只牛平日里所需的食物是普通牛的十倍，但干起负重运输的活来，连一头最弱小的牲口都比不上。后来曹操占据荆州后，觉得这头牛实在无用，于是就把这头牛给杀了，分给军队将士们食用，也算是物尽其用了。”
桓温这话说的实在太狠，他将那些整天个无所事事、吃饱喝足后处到夸夸其谈的徒有其表士人阶层比喻为刘表之牛，甚至扬言要杀了他们用来劳军，这就有点过份了。
但是鉴于桓温的实力，袁宏也确实相信他能够做到，因此便不再做声，刚才还欢快的酒席也因此不欢而散。
桓温在淮南郡正式任命袁宏为军需官，负责北伐大军的粮草军需等事宜，袁宏也不推辞，表示将竭力为北伐大军服务，桓温对袁宏的表态非常满意，于是便在淮河南岸集结部队，然后分批乘船渡江，正式开始北伐。
桓温率军渡淮北伐的消息传来之后，姚襄慑于桓温的威名，立即开始收缩兵力，他妄图将一些郡县自动放弃之后，桓温肯定会分出兵力来守卫这些郡县，这样桓温的实力就会减弱，因此姚襄将兵力集中于洛阳一带，以逸待劳，打算在这里歼灭桓温的大军。
因为姚襄的弃守，沿途的陈郡、梁郡、颖川郡等郡县桓温不费吹灰之力便攻了下来，但是桓温并没有被这些表面的胜利而蒙蔽了双眼，他很清楚自己的目标就是姚襄，因此根本就没有在这些郡县留下一兵一卒就匆匆的离开了，终于在不到两个月的时间里，桓温率领五万大军就打到了伊水河畔。
因为洛阳守将周成的坚守，姚襄攻打了两个多月始终没有打下洛阳来，而桓温进军的速度又实在超乎姚襄的想像，因此姚襄有些措手不及，为了专心对付桓温，姚襄便解除了对洛阳的围困，专心对付桓温。
为了对付桓温，姚襄决定故伎重演，向桓温诈降，就像当年对付殷浩一样对付桓温，因此他将自己的精锐部队隐藏在了伊水北岸茂密的森林里，然后又派出使者对桓温说道：“久闻桓将军的威名，今日竟然亲自率领王师前来，面对桓将军姚襄我愿意投降，请命令你的军队稍稍退却，我将拜伏在路边向您投降。”
桓温不是殷浩，自然清楚姚襄葫芦里埋的什么药，他见姚襄还是拿出这种对付殷浩的手段来对付自己，不由的冷冷一笑，对使者说道：“本将军受天子之命，是前来收复中原，祭奠先帝的，回去告诉你家将军，他要降便直接降，想打就直接来打，派使者来耍这种小儿科的手段算什么英雄？”
一席话，说的使者面红耳赤，连忙退了出去。
使者回去后，向姚襄回禀了桓温的话，姚襄见桓温如此说自己，也有些面红耳赤，既然计谋被识破了，也就只能认真备战了，尽管他面对桓温有些胆怯，但是为了不辜负父亲的事业，同时也为了羌族的大计，也只好硬着头皮沿河摆下阵形，准备迎战桓温了。