高仙芝知道夫蒙灵眢心胸狭窄，会从中作埂。早就与勇将李嗣业、席元庆、贺娄余润等人联系，获得了他们的支持。所以夫蒙灵眢的话音未落，三人就站到了高仙芝的身侧。许多想建功立业的低级军官也站到了高仙芝一边。加上高仙芝的亲信封常清、段秀实等人，出征的将领绰绰有余。
这大大的出乎夫蒙灵眢的意料，他自己没有成功，也不希望高仙芝成功。心想你要是打了胜仗，攻下连云堡，征服了小勃律，我的脸面往那里搁。本不想让这些将军跟随高仙芝出征，因为他有言在先，所以不能说话不算数。何况皇帝派来的监军边诚令也在当面，他不敢得罪皇帝身边的人，依了他们。但内心之中，已经恨上了高仙芝。
由于这次行军要翻越崎岖的葱岭，所以高仙芝在出征前要做好充分的准备。他总结前几次唐军攻击无功的原因是粮草供应不上。在与敌军相持不下的时候，部队没有了粮草，人和马都没得吃的，只有退兵。
那时候的粮草运输，在平原上有官道，可以马车搬运还是比较容易的。但在世界屋脊帕米尔高原上，就只能人背马驮了。如果从安西出发，大军要走两三个月，才能到达攻击地点。因此高仙芝先将粮草运至唐军的最前沿疏勒4，屯积在那里，就可改善后勤保障问题。
待一切准备就绪，高仙芝便率部队从安西都护府和所在地龟兹即现在的库车出发。安西都护、安西四镇节度使夫蒙灵眢不但没有举行出兵仪式，而且没有送行。出征的军队静悄悄的一路西行，长途跋涉，在山地上行走了十五天，才到达第一站，拨换城5。
拨换守捉使贾崇瓘到营外十里迎接。守捉是唐军的建制单位，在都护府或军镇之下，相当于现在的边防军分区。人数的差异很大，小的只有三百人，大的有七千人，守捉使是主官。贾崇瓘出营迎接，高仙芝非常高兴。
部队在崎岖的山地上行军半个月，十分疲惫，高仙芝命令军队休息两天，补充粮草，将贾崇瓘的三千兵马也带着一起向小勃律进军。
军队得到补给后又继续翻山越岭，十余日后到达握瑟德6。军士很累，但为了赶时间，高仙芝没有安排休整，让军队继续前行。又行进了十余日到达疏勒。疏勒守捉使赵崇玭，早就将粮草等军用物资准备好，迎接高仙芝。
高仙芝对赵崇玭说道：“赵将军守卫边境，常年在这人迹很少的荒原上抵御敌人，辛苦得很。”
赵崇玭说道：“元帅一路长途跋涉，更加辛苦。只要能消灭小勃律，大壮我大唐的国威，保证边境地区安宁，我们辛苦一点又算得什么呢？”“此话不错﹗”高仙芝回头对身后的将士们说道：“赵将军及其手下的边防军，常年与家人隔绝，在这边远地区餐风宿露，你们说辛苦不辛苦啊？”
“辛苦﹗”两万多人的齐声，将山峰都震动了，回声在山谷中滚来滚去。“与他们相比，我们这一个多月的行军，苦不苦啊？”“不苦，”声音稀稀疏疏。高仙芝紧问一句：“苦不苦啊？”“不苦﹗”声音增大了许多。
“不苦是壮胆的，大家都很辛苦。但为了边境的安宁，为了大唐的国威，我们辛苦一点是值得的。军人本来就是流血流汗的，我们既然当了军人，就要做超一流的军人，要勇于吃苦。我们在这里休整五天，恢复体力，迎接更艰苦的行程。”高仙芝带兵，的确有一套，几句话就把军士的厌烦之气赶走了。打消了军队的畏难情绪，鼓舞了士气，为获取胜利打下了基础。
西征唐军进行第一次休整之后，挥军南下，踏上葱岭，开始了异常艰苦的行军。葱岭是塔吉克语，意为世界屋脊。由天山山脉、昆仑山脉、喀喇昆仑山脉和兴都库什山等交汇而成的高原。海拔4000—7700米，拥有许多高峰。帕米尔高原分东、中、西三部分，东帕米尔以中山为主，是帕米尔高原海拔最高的部分，海拔平均6100米。山峰相对高度1100—1800米之间，山体浑圆。山间谷地宽而平坦，海拔在3690至4200米之间。
唐军行军路线不但要经过东帕米尔，而且还要经过海拔7564米青岭即慕士塔格山，其艰难程度可想而知。当时唐军士兵虽然有马匹相随，后勤方面由于事先准备得充分，但山路崎岖，大部队前进，异常困难。
高仙芝一方面加大后勤保障的力度，保证物资不缺。另一方面选择从平坦宽阔的山间谷地行军，使行进的困难降至最低。但是象车驽一类的重装备，也不好带，只能放置在大本营里。经过二十余日的艰苦行军，唐军到达了葱岭守捉7。唐军翻山越岭，疲惫不堪。边令诚说道：“我本来是在京城享福的，摊上了这个鬼差事，把人累死了，还没有碰上敌人。”
高仙芝说道：“这里的路弯弯曲曲，忽高忽低，行走艰难。监军骑马都感到累，而军士门还要携带兵器和粮草，更累啊。以后我们寻找好走的地方前进，节省体力。”
过了葱岭之后，高仙芝再次向西，沿兴都库什山北麓西行，又经二十余日到达播密水8。高仙芝对军士门说道：“兄弟们已经疲惫不堪，但为了取得胜利，我们还得继续赶路。我们是大唐帝国的天兵，所向无敌。只要到达，就能胜利。”唐军继续前行，再经二十余日到达特勒满川9。
至此，唐军经过百余日的跋山涉水，于同年六月完成