尽管桓温觉得征讨拓跋部很有把握，但是他手下的人却不这样认为，豫州刺史桓豁就提醒桓温道：“拓跋部不同于慕容部，拓跋部久居塞外苦寒之地，居无定居，方圆千里无人烟，我军士兵长期生活于南方，此时北伐能够打到幽州已是极限，再征讨拓跋部恐难以适应塞外的寒冷天气。”
然而，此时的桓温已然被巨大的胜利冲晕了头脑，此时的他想到的是自己已经是年近五十的人了，好不容易才打到了幽州，若是此时不一鼓作气消灭掉拓跋部，后面可能就再也没有机会了。
况且，熟悉历史的桓温也很清楚拓跋部在未来历史中的角色，强大的北魏政权正是拓跋部所建，所以，尽管桓温知道此时的部队已经疲惫不堪，急需休整，而且士兵的身体素质也正如桓豁所言，难以适应北方的寒冷天气。
但是，为了整个汉民族着想，彻底消灭这个后世潜在的威胁，桓温还是决定孤注一掷，强行率军征伐拓跋部。
在广宁郡进行了短暂的休整之后，桓温便开始筹划征讨事宜，经过两年多的征战，由于不断的有敌军投降和各地汉族武装踊跃参战，桓温已经从最初的五万多军队急速扩张到了二十多万，正是因为了有这二十多万的部队作支撑，桓温才敢在这样的情况下征伐拓跋部。
桓温将这二十多万的部队兵分三路，北路由豫州刺史桓豁率领，率军八万人，从广宁郡出发北上大青山，在大青山一带围剿拓跋部的游牧部落，然后从大青山向西进入前套平原，从前套平原进攻拓跋部据守的楼烦、繁峙、崞三县，拿下三县之后，再进军代国都城盛乐。
南路由兖州刺史朱序率领，也率军八万人，从广宁郡出发南下大宁县，攻下大宁县之后翻越管岑山进攻代郡，拿下代郡之后西进毛乌素沙漠，穿越毛乌素沙漠之后进入住于西套平原的马邑、阴馆二县，拿下二县之后从南面进军代国都城盛乐。
中路则由桓温亲自率领，统兵八万余人，从广宁郡出发翻越吕梁山进攻代国的东部重镇平城，拿下平城之后率军翻越贺兰山，从中路进军代国都城盛乐。
此时西征一个很大的问题就是三路大军相距甚远，相互之间无法支援，只能各自为战，而另一个很大的隐患就是所征之地皆为人烟稀少，无法沿途进行补给。
为此，桓温又从幽州各地调集了牛马等畜力五万余匹，征讨民工十万余人，征收军粮三十万余，作为三路大军的后勤补给，同时随军出征。
由于战争初期东晋的征讨大军来势汹汹，拓跋什翼犍也没有做好准备，而且还有被俘的鲜卑拓跋部的族人充当向导，所以尽管拓跋部拼死抵抗，但还是被桓温占领了很多地盘，甚至连马邑、阴馆、楼烦、繁峙等代国为数不多的县城和大宁、平城等重要城镇也被东晋占领。
拓跋部抵挡不住，紧要关头拓跋什翼犍又得了重病，卧床不起，没法儿指挥战斗。
无奈之下，拓跋什翼犍只得听从了谋士燕凤的建议，暂时避开晋军的锋芒，收拢部族转移到阴山以北的地方，妄图通过广袤的草原和荒漠来拖住晋军，然后派出小股部队不断的打击晋军的后勤补给线，以达到消耗晋军有生力量的目的，在晋军疲惫不堪之时，再一鼓作气，率领全军出击，一举消灭晋军主力。
应该说燕凤的这个计策确实符合当时代国的实际情况，在拓跋什翼犍将拓跋部的部族全部隐藏到了阴山以北之后，晋军在茫茫的草原和荒漠里漫无目的的到处游荡，由于天气寒冷，很多从南方来的战士都得到了冻疮，更有甚者甚至连脚都冻烂了，根本就走不了路，只得用担架抬着。
而由于晋军的后勤补给线经常遭到拓跋部骑兵的劫掠，使晋军的粮草短缺问题越来越严重，而由于拓跋什翼犍的坚壁清野的政策，茫茫的草原上竟然连一只羊都找不到，使晋军饿的只能挖地老鼠充饥。
随着非战斗减员越来越严重，而拓跋部的主力依然没有找到，晋军的将领们越来越意识到若是再这样下去的话极有可能会全军覆没，于是，北路军的桓豁首先提出了撤军的请求，而后南路军的朱序也以同样的理由请求撤军。
此时的桓温已经进驻到了平城，在南北两路大军身上出现的同样的问题在中路军身上也出现了，这种打法让桓温很是头疼，由于迟迟找不到拓跋部的主力，而晋军实际上也已经占领了代郡、大宁、平城、马邑、阴馆、楼烦、繁峙、崞等地，实际上已经拉平了从洛阳、荥阳、河内、上党、武乡、晋阳、定襄等地的防线，中间只有一个雁门郡尚在匈奴铁弗部的手里。
因此，桓温觉得打到代国的都城盛乐实在是有点困难，不如先保住现有的成果，以后再图盛乐也不迟，因此决定从前线退兵。
可就在桓温下了很大的决心准备撤军的时候，城外却突然出现了众多的要求投降的代国的官员们，甚至连拓跋什翼犍最为倚重的汉族大臣许谦和燕凤也在投降之列，这让桓温有些丈二摸不到头脑，到底出了啥子问题了嘛？难道代国闹灾了？
桓温觉得很奇怪，于是便招来了代国的老臣燕凤询问，而燕凤也将代国国内发生的事情一五一十的讲给了桓温听。
原来，是拓跋什翼健在病重之时被自己的庶长子拓跋寔君给杀了，拓跋寔君杀了自己的父亲还不算完，又一不作二不休的把自己的那些亲弟弟们全部斩尽杀绝。
代国出了这样一档子事，它能不乱吗，当时代国国内人心惶惶，士兵、将领以及大臣亲信们都六神无主。
代国大本营也立马乱成一锅粥。人人都知道大势已去，更重要的是，没有人愿意帮一个弑父杀弟的恶人篡位，于是乎，代国的将领、大臣们都四散逃离，有的投奔了匈奴铁弗部的刘卫辰，有的投奔了前秦的苻坚政权，而更多的人则去投奔了东晋的桓温大营。而拓跋家的其余子孙们也都作鸟兽散，开始了亡命天涯的生活。
桓温听到这个消息后大喜过望，高举的对着天空大声喊道：“真是天助我也啊。”
随后桓温命令三路大军即刻进军，在代国投降将领们的带领下，晋军很快就在茫茫草原上找到了代国的都城盛乐，并轻而易举的就攻克了盛乐，抓获了拓跋什翼健的庶长子拓跋寔君及其它作乱将领，立国六十一年的代国拓跋氏政权正式灭亡。