就在桓温看到河畔之上的秦军开始有序撤退，河畔之地逐渐空出来之际，桓温立即下令，晋军船队后队改前队，前队改后队掩护前队立即火速撤退之时，前军督护田洛突然高喊着对桓温说道：
“丞相，快看，秦军乱了，秦军乱了。”
桓温迅速的闻声望去，只见原本军容齐整的秦军此刻突然乱作一团，乱哄哄的漫无目的的四处逃窜，原来遮天蔽日的旌旗也被扔的到处都是，在慌乱之中似乎还能听到有士兵在喊：“秦军败啦、秦军败啦…”
这让桓温实在疑惑不已，前军督护田洛、游击将军高衡和右卫将军龚正都建议桓温可以趁势登陆，攻打秦军，然后桓温担心有诈，因此迟迟没有同意。
就在桓温疑惑不解之时，远处的山坡上突然亮出了晋军的旗帜，高衡立即把这个情况报告给了桓温，桓温由于年事已高，看不太清楚，因此便派轻舟靠近河畔打探消息，不一会儿，派出去打控消息的轻舟载回来一个人来，来人自称是来自广汉郡的一个普通士兵，受广汉太守张代之命前来向桓温通报秦军已乱，可放心登陆作战，共逐秦贼。
张代原来是蝶眼使者，在桓温攻伐成汉之时立下汗马功劳，成汉灭亡之后因功受封广元县令，受累迁至广汉郡太守，秦军来攻之时张代虽然殊死抵抗，但终因寡不敌众而被秦军俘虏，苻坚为了笼络人心，并没有为难张代，而是让他跟成都郡太守关悦、梓潼郡太守赵累共同组成汉人兵团，负责管理投降的汉族士兵，并许诺今后再有投降的汉族士兵依然归这三人管理。
苻坚利用同样的方式已经收降了羌族、鲜卑族的部众，羌族领袖姚苌、鲜卑族领袖慕容垂也已经在苻坚手下任官多年，也跟随苻坚东征西讨立下了汗马功劳，苻坚便想当然的认为此举对汉族官兵同样适用，但是他所不知道的人，汉人受儒家文化影响，忠君思想浓厚，尤其是对胡族更是瞧不起，因此对于苻坚的笼络之意嗤之以鼻，但是因为实力不济，只得暂时寄居人下，但是他们依然心向晋室，因此一直在等待机会。
现在机会来了，张代由于长期从事间谍活动的缘故，对于蛊惑人心十分的在行，虽然他不清楚苻坚跟桓温谈了些什么，但是出于对桓温的信任，觉得有桓温在就能打赢秦军，因此在秦军按照约定准备后退之时，张代本能的以为秦军这是因为害怕桓温所以才会选择后撤，因此便决意在秦军当中制造混乱。
由于汉人部队在秦军序列当中地位比较低下，因此在排兵布阵之时也往往排在了后方守备，因此张代经过与关悦、赵累二人商议之后，决定在秦军后撤之时，趁机散布秦军败了的谣言，同时起兵反叛秦军，以策应晋军攻击。
因此，在秦军开始依序后撤之时，张代等人便趁势鼓动所辖部队大喊：“秦军败啦、秦军败啦。”
由于后面的士兵不知道前面士兵的情况，但是只看到前面的秦军开始往后撤退，不明情况的秦军在汉族士兵的带动下，也开始不自觉的往后奔跑，边跑还边嚷嚷着：“快跑啊、快跑啊。”
负责监军后方的阳平公苻融一看士兵开始逃跑，便气急败坏的舞着剑，在连砍了几个逃跑的人之后，终于暂时刹住了溃跑的情况，就在苻融稍微喘息了一口气的时候，不知道从哪里射来了一只箭，一箭射中苻融的脑门，苻融当场倒地身亡。
原本被镇住的士兵们一看，更加的骚动的起来，开始像脱缰的野马一样向后方涌去，四处逃奔。
刚开始的时候溃逃的只有汉族士兵，渐渐的其他民族的士兵也开始加入其中，羌族士兵首先加入其中，由于羌族领袖姚苌跟桓温交过手，深知桓温的厉害，为了保住仅剩的羌族火种，保存羌族实力，姚苌也开始带着本族士兵带头逃跑。
姚苌这一跑不要紧，同样本着保存实力想法的鲜卑族、丁零族的士兵开始逃跑，因为鲜卑族的慕容垂、丁零族的翟斌都跟桓温交过手，出于对桓温实力的恐惧，他们在看到羌族逃跑之后，也果断的加入了逃跑之列。
眼看溃逃已成潮水之势，桓温也已明白秦军当中有汉族将领在响应，于是果断的发出了追击秦军的命令，晋军将领欢呼雀跃，立即驾驶战船向岸边驶去，还没有到岸边便跳入水中冲向岸边，开始在后面追击溃逃的秦军。
看到晋军登岸之后，张代又向关悦、赵累等人使出了一个手势，两人心领神会，立即停止逃跑，手持利剑，高声的高喊道：“兄弟们，丞相桓温已经领兵赶来，建功立业的时候到啦，兄弟们跟我一起消灭这些秦贼。”
在关悦、赵累、张代等人的带动下，还有些血性的汉族士兵开始调转枪头，转过身来冲向了溃败中的秦军，秦军猝不及防，被反叛的汉族士兵杀的四散逃离，再加上后方追击的晋军，秦军更加溃不成军，开始满山遍野的逃跑。
坐镇后方的苻坚一看情况不妙，也顾不得皇帝之尊了，立即骑上一匹好马开始拼命逃跑，不料一支流箭飞来，正好射中他的肩膀，苻坚顾不得疼痛，继续催马狂奔，一直逃回很远的地方才喘息了一口气。
晋军乘胜追击，秦军没命的溃逃，被挤倒的、踩死的士兵，满山遍野的都是，那些得以侥幸逃脱的兵士，一路上听到风声和空中的鹤鸣声，就以为是晋军的喊杀声，吓的不敢停下来，也一路狂奔。
经此一战，秦军战死四万余人，被俘七万余人，俘虏前秦宗室四人，分别是前秦太子苻宏、平原公苻晖、东海公苻阳、清河公苻敷，前凉后主张天赐、仇池国末代君主杨纂也一并被俘，斩杀前秦大将王统、朱肜、毛当、徐成、杨安等重要将领十余人，晋军取得了辉煌的胜利。
在桓温在青衣江取得辉煌胜利的同时，宁州刺史孙恩派出的两万宁州兵在孙绰的带领下也已抵达汉嘉郡附近，准备对秦军占据了广汉郡发动进攻，退守巴西郡的益州刺史桓云也率领仅存的益州兵重新占据了剑阁，截断了秦军通过剑阁退回梁州的打算。
更为关键的是，青衣江之战极大的鼓舞了益州境内的汉族武装，他们纷纷行动起来，利用各种机会不间断的打击秦军，使秦军即便撤退也始终处于一种被动挨打的局面，以至于在苻坚逃跑的过程中，看到两旁高山上的草木，也影影绰绰的就以为是满山遍野的晋军士兵，因此只能继续昼夜不停的逃跑，就这样一路跑一路被汉族武装截击，再加上一路上谎不译路、风餐露宿、饥寒交迫，冻饿而死的秦军士兵又有十之七八，等逃回成都时，原本拥兵二十万的秦军，只剩下不到七万余人。