张守珪是陕州河北县人，容貌漂亮，身体健壮，豪爽、崇尚节操仁义，擅长骑马射箭。担任平乐府别将时跟随郭虔馞镇守北庭。突厥进犯轮台，派他去救援，途中碰到敌军，他拼死战斗，杀死敌人一千多，俘获敌将颉斤一名。开元初年，敌军又进攻北庭，他被派从小路到京城来报告情况，因此上奏分析形势，请求率军从蒲昌、轮台夹攻敌军。后又升任幽州良杜府果毅官。当时卢齐卿任刺史、器重他，拉着他坐在一起，对他说“：不到十年，你就会任这个州的节度，成为国家的重要将领，我想把子孙托付给你，怎么能像对部下一样对你呢？”后又逐渐升任建康军使。

　　王君耯战死，河西震惊害怕，有诏任命他为瓜州刺史、墨离军使，他督促残兵修复旧城。才开始动工，敌军突然来了，大家吓得脸色都变了。他说“：战败的残兵，怎能用武力硬拼，应用计谋来战胜他们。”于是在城上摆酒，和众将听音乐。

　　敌人担心他们有准备，不敢攻城，退兵了，他派兵打败了敌军。接着修复建筑，把逃亡的人召回让他们重操旧业。皇帝有诏将瓜州作为都督府，就下诏任命他为都督。州中多沙漠不能耕种，曾蓄雪融化的水灌溉田地。当时水渠塘堰被敌军毁坏了，当地没有木材。他暗暗对神祷告，一夜洪水来了，几千棵大树从山涧中流了下来，他们取来树木，修好了水渠塘堰，田地又像过去一样能耕种了，州里的人把他看作神，刻石碑记载了这件事。

　　后升任善阝州刺史，陇右节度使。又调任幽州长史、河北节度副大使。不久加封为采访、处置等使。

　　契丹、奚族连续多年侵犯边境，契丹牙官可突于是他们中有计谋的，前任长史赵含章、薛楚玉等人不能制服他们，他去后，每次作战都得胜了，敌军被打得大败。皇帝高兴了，下诏命有关部门祭祀禀报祖庙。契丹酋长屈刺和可突于害怕了，就派使者假装投降。他知道了实情，派右卫骑曹王悔到他们部落去对付他们，屈刺没有投降的诚心，把营帐迁到略为西边的地方，秘密勾引突厥想杀死王悔反叛。契丹别帅李过折和可突于不和，王悔利用矛盾拉拢他，乘夜晚杀死了屈刺和可突于，消灭了他们的党羽，率部族来投降。张守珪驻军紫蒙川，举行盛大的阅兵仪式，奖赏兵将，把屈刺和可突于的头用传骑送到了洛阳。

　　开元二十三年(735)，他入京拜见皇帝，碰上皇帝行籍田礼完后，就设宴犒赏他，皇帝赠诗表示对他的宠爱。加封他为辅国大将军、右羽林大将军，赐给他金器和绸缎，任命他的儿子为官，并下诏令树碑记载他的功劳。

　　过了一段时间，他又在捺禄山讨伐契丹残余，缴获难以数计。遇到偏将赵堪、白真陀罗等人强逼平卢军使乌知义渡过湟水去攻击反叛的奚族，并且践踏他们的庄稼，乌知义推辞不去，白真陀罗假托有诏书来胁迫他，他和奚军作战，没有获胜，就班师了。张守珪隐瞒了他的战败，只奏报打胜仗的情况。这事有所泄漏，皇帝派谒者官牛仙童来核实，张守珪逼迫白真陀罗自杀，又用重金贿赂牛仙童，回去后按他的奏本报告。后来牛仙童因受贿被治罪，事情牵连到他，因他有功，被贬任括州刺史，后来背上长毒疮去世了。