由于此时河西走廊的大多数州县已经处在张义潮军的控制之下，所以这一次的信使团出使长安的行程十分的顺利。唐宣宗接到瓜、沙11州图籍和张义潮的捷报后，特下诏表扬张义潮等人的忠勇和功勋，诏令说：张义潮“抗忠臣之丹心，折昆夷之长角。窦融河西之故事，见于盛时;李陵教射之奇兵，无非义旅”。11月，唐王朝于沙州建立归义军，统领瓜沙等11州，授张义潮归义军节度使、11州观察使，管内观察处置，检校礼部尚书，兼金吾大将军，食邑2000户，实授300户。拜李明达为河西节度衙兼监察御史，拜李明振为凉州司马检校国子祭酒，御史中丞，授吴安正为武卫有差。而作为人质留在长安的张义潮兄长张义潭则被授为金吾卫大将军。
随着瓜、沙、肃、甘诸州的收复及沙州归义军的建立，吐蕃军队节节败退，最后集中于姑臧（凉州）。凉州是北朝、隋唐以来的河西重镇，唐朝前期一直是横断吐蕃和突厥的河西节度使所在地。吐蕃统治时期，又是统辖河西东部的大军镇驻地。如果凉州仍在吐蕃手里，那么张义潮所提出的收复河西东部及陇右数郡就是一句空话。因此,为了有效地控制河陇地区，张义潮便从大中十二年（公元858年）八月率军开始了他东征凉州吐蕃的伟大壮举。当然此时的凉州已经聚集了大批的吐蕃军队，另外还有河西陇右地区败退至凉州的吐蕃军，军力十分雄厚，这导致了凉州战役变得极其艰难。
前面已经说到吐蕃在河西倒行逆施，不但导致了唐人的愤怒，就是吐蕃人也对统治者极为不满。而归义军建立之后秉承大唐传统，对各族人民一视同仁，有力地团结了在河西走廊的各族人民。而这支东征军由汉、吐蕃两族士兵组成，共计7000名士兵。这是一次空前激烈的战斗，归义军“分兵两道，裹和四方。人持白刃，突骑争先。须臾阵和，昏雾张天。”两军对阵之时，归义军人人置生死于度外，“列乌云之阵，四面急攻，蕃贼糜狂，星分南北。”在血腥的死斗中，大唐精神重新焕发了光彩，吐蕃军终于支撑不住，“汉家持刃如霜雪，虏骑天宽无处逃，头中锋矢陪垅土，血溅戎尸透战袄”。汉军得势，押背便追。不过五十里之间，杀戮横尸遍野。”吐蕃军虽然遭到很大的打击，但是毕竟是强悍的敌人，归义军人数少，也没办法一时全部消灭，于是这场残酷的战争足足拉锯了三年。
经过三年的血战，咸通二年（公元861年），张义潮终于一举攻克了凉州。张义潮收复凉州后，即表奏朝廷。于是，“河陇陷没百余年，至是悉复故地”。咸通四年（公元863年）唐王朝复置凉州节度使，统领凉、洮、西、鄯、河、临六州，治所在凉州，由张义潮兼领凉州节度使。从此,河西走廊又畅通无阻。当世之时，世人写下这样的诗句来赞扬张义潮：“河西沦落百余年，路阻萧关雁信稀。赖得将军开旧路，一振雄名天下知。”
在之后的几年时间中，张义潮以瓜州、沙州为根据地，对外征讨，扩大战果，巩固归义军政权对河西的统治。当时，河西地区的形势还是相当复杂：南面的吐蕃还在伺机卷土重来；北面的回鹘也在觊觎着河西这块富庶之地。另外，吐蕃国内，自“尚恐热作乱，奴多无主，遂相纠合为部落，散在甘、肃、瓜、沙、河、渭、岷、廓、叠、宕诸州之间，吐蕃微弱者反依附之”。他们纠合在一起，大肆劫掠河西各地。
张义潮在基本没有中央政府军队帮助的情况下，进行了一系列战役。《张义潮变文》直接记述了大中十年（公元856年）至十一年间的三次战役：第一次是吐谷浑王进犯沙州，张义潮出兵讨伐，两军在西同附近相遇，张义潮首战破敌，土谷浑王败逃，张义潮率军乘胜追击1000余里，并大获全胜，活捉土谷浑宰相3人，斩首示众，而后全军高唱《大阵乐》，凯旋而归；第二次是纳职县回鹘、吐蕃抄掠伊州，张义潮奔袭，回鹘人被打了个措手不及，沙洲军大获全胜；第三次是叛乱回鹘劫夺唐朝册立回鹘使王端章，张义潮闻知大怒。由于下文残缺不全，不知结局如何。由此可知，张义潮为了抵御周边少数民族统治者的骚扰、劫掠，仍然进行着非常艰巨的斗争。《张义潮变文》中所说义潮“朝朝秣马，日日练兵,以备凶奴，不曾暂暇”，就是当时实际情况的真实反映。咸通七年（公元866年）十月，“拓跋怀光以五百骑入廓州，生擒论恐热，先刖其足，数而斩之，传首京师”，其余众逃奔秦州，途中又遭到了尚延心的袭击，“吐蕃自是衰绝”。河陇肃清，使唐王朝无西顾之忧。至此，河西地区初步形成了统一局面，“西尽伊吾，东接灵武，得地四千余里，户口百万之家，六郡山河，宛然而旧”。唐王朝的势力，已达陇右诸地。
正是张义潮率领的沙州起义及其战果的不断扩大，河西地区才得以克复，使“百年左衽，复为冠裳；十郡遗黎，悉出汤火”。对于他在河西重振大唐声威的业绩,人们给予了高度的评价:“坐筹帷幄之中,决胜千里之外,四方犷悍,却通好而求和;八表来宾,列阶前而拜舞。北方猃狁,款少骏之蹄,南土蕃浑,献昆岗之白璧。”堪称英雄盖世之功!
