1820年，薩木薩克死後不久，張格爾就加緊了作亂的步伐。在浩罕汗國瑪達裏的暗中汗支持下，張格爾聚集了數百人襲擊了清朝卡倫(邊防站)。當時，喀什噶爾邊境山區的柯爾克孜首領蘇蘭奇因受到張格爾的壓迫，向喀什噶爾參讚大臣報告了這一敵情。參讚大臣斌靜聽了之後卻並不放在心上。到清軍卡倫守軍再次向他報警後，這才感到事態嚴重，急忙派人火速飛報伊犁將軍。
此時，張格爾已率領數百人順利進抵圖休克塔什卡倫，距喀什噶爾西北不過百餘裏，在山區村落燒殺虜掠，清軍副護軍參領音德布已英勇戰死。
伊犁將軍慶祥聞報後，日夜兼程親自奔赴喀什噶爾。同時，喀什噶爾幫辦大臣色普征額也率兵火速開赴邊境禦敵，與張格爾匪幫遭遇後，迅即獲勝。張格爾僅率20餘騎逃回浩罕。
第一次入卡的失敗，並未使張格爾認輸。他繼續在邊境地帶活動，打出“霍加後裔”的旗幟招攬了一些亡命之徒，積蓄糧草和彈藥，並不時對清軍卡倫做些小規模的騷擾。
1822年9月，張格爾夥同其弟巴布頂，集結200多人，自邊界阿賴嶺入境，進入我方烏魯克卡倫搶劫，傷清軍官兵30餘人，侍衛花三布陣亡。麵對危局，清軍遊擊劉發恒率卡倫守軍奮力拒敵，張格爾與巴布頂抵擋不住，又退往邊境山區。
在山區觀望期間，張格爾突發奇想，派人到喀什噶爾參讚大臣處商談，要求清朝將喀什噶爾罕愛裏克回莊劃為其世襲領地，他便不再鬧事。喀什噶爾參讚大臣永芹早已探得浩罕汗國將派兵數千協助張格爾奪取喀什噶爾，張格爾此舉不過妄圖以詐降爭取時間。
為務求全殲張格爾匪幫永絕邊患，接到邊報後，道光一方麵要求慶祥嚴辭回絕張格爾的無理要求，同時命喀什噶爾參讚大臣永芹盡速進剿。
1822年10月3日，永芹領兵300，開赴邊境木吉一帶剿敵。不料張格爾已聞風先遁，竄出邊卡之外；他見浩汗國答應派出的援兵遲遲不來，也就隻好繼續招兵買馬，在喀拉提錦山區一帶，準備更大規模的軍事入侵。
為防止張格爾再度入卡為亂，清廷開始在喀什噶爾加強邊備。1822年11月，喀什噶爾參讚大臣永芹病故於任上，來年元月，清廷派伊犁將軍慶祥出任喀什噶爾參讚大臣；至3月間，又調烏魯木齊綠營兵500、戰馬500匹赴喀什噶爾充實防務。
1823年7月18日的一個深夜，張格爾又領著黨徒200餘人和浩罕汗國革職軍官艾沙所帶的60餘名安集延士兵，第三次入卡作亂。他們自開齊山入境，以最快的速度繞過清軍卡倫，占領了喀什噶爾以北40餘公裏的阿圖什。
在喀拉汗王朝索圖克；布格拉汗的陵旁，張格爾向民眾宣布，他此行的目的隻是要到喀什噶爾阿帕克霍加麻紮去，以祭拜先祖在天之靈。消息一傳開，有不少白山派信徒信以為真，先後趕到阿圖什參拜張格爾。
與此同時，喀什噶爾參讚大臣慶祥也己聞報，火速命令幫辦大臣舒爾哈善與領隊大臣烏淩阿等，率兵直奔阿圖什圍剿。張格爾忙帶著由引誘哄騙而擴充為千餘人的部隊迎戰。這些未經訓練的叛軍一戰即潰。張格爾馬上掉頭就跑，先往東退往伽師，再向西悄悄迂回到喀什噶爾城東5公裏處，占領了阿帕克霍加陵園。
慶樣聞訊，又派千餘清兵前往包圍了阿帕克霍加陵園。此時張格爾已派人混入喀什噶爾城內，串通內應發動了變亂，叛匪衝出東門，在清軍外圍又形成一道包圍圈。清軍受內外夾擊，處於明顯劣勢。在一個雷雨交加的夜裏，張格爾順利突圍。