开元十七年（公元729年）契丹及奚族连年侵犯唐王朝北方边陲重镇——幽州（今北京），幽两任长使赵含辛、薛楚玉皆无能为力而相继败北。唐玄宗遂于开元二十二年（公元734年）下令进调张守珪移镇幽州。他到任以后，率军频频出击，尽诛契丹首领屈烈、可突干等党羽，余皆降服。这次大捷再次显示了张守珪卓越治军才能。诏封守珪兼御史中丞，营州（今辽宁省锦州市）都督，河北节度副大使及河北采访处置史。开元二十三年（公元735年）守珪奉命亲往东都（今河南洛阳市）献捷，玄宗喜其功，拜为辅国大将军，右羽林大将军兼御史大夫，并赐予金银彩绸等。他的两个儿子因此授予官职，并在幽州为守珪立碑记功。
张守珪在唐玄宗开元年间，二十余载戍边生涯，东征西战，驰骋在祖国的大西北至东北一带绵长的边防线上，立下赫赫战功，这和他足智多谋、胆略过人、英勇善战、治军有方是分不开的。
可惜，张守珪官居厚位后，居功自傲，不体恤军士，对部将约束不严，将领骄奢，军心涣散，招致了边事日益紧张的局面。先是开元二十四年（公元737年）张守珪重用营州杂种胡人安禄山讨奚和契丹，轻进失律，可诛不诛，致贻后患，唐代诗人高适在一次征战中，身历其境，他在《塞上》一诗中这样写道：
……
边尘涨北溟，虏骑征南驱，
精斗岂长策，和亲非远图，
惟惜李将军，按节出皇都，
总戍扫大漠，一战禽单于。
……
对当时边疆安定，表达了郁闷的心情，同时，也流露了对张守珪部将的不满。
最严重的是开元二十六年（公元758年）部将赵堪等人假借守珪之名，令平卢使乌知义截击契丹、奚余众于潢水（今内蒙古西拉木沦河）之北，先胜后败。诗人高适在这时又以讽刺的笔调写下了《燕歌行》著名诗篇，其中有这样几句：
山川萧条极边士，胡骑凭陵杂风雨，
战士军前半死生，美人帐下犹歌舞。
大漠穷秋塞草衰，孤城落日斗兵稀。
身当恩迂常轻敌，历尽关山未解围。”
诗人在诗的最后还举出了:
相看白刃血纷纷，死节从来岂顾勋？
君不见沙场征战苦，至今犹忆李将军。
一针见血地揭示了张守珪军中生活腐化的情景。
他这次败绩，本以惨痛教训引以为鉴，重整军威，以利再战。但他好大喜功，隐瞒败绩而谎报军情，事泄，玄宗派遣内常侍牛仙童前往按实。守珪厚赂使者，还奏如前。后仙童以赃败露，逮守珪以旧功减罪，贬为括州（今浙江丽水县）刺史，逾年而卒。