得益於汪精衛強大心理素質的助攻，蔣介石沒有費多少力氣，就登上了權力中心的寶座。
首先要做的，便是更加牢靠地掌握軍權。
在第一次國共合作中，共產黨不僅在國民政府中擔任了要職，在軍中也有了自己的力量。孫中山在的時候，大家相安無事，眼下，到了蔣介石這裏，我們的校長大人顯然既不寬宏，更無大量，對於這種不可能聽從自己命令的團體，自然要委婉地“清”出去。
1926年5月，蔣介石以整頓黨務的名義，向國民黨內部提交了《整理黨務決議案》。根據議案的要求，共產黨員從即日起不得擔任中央各部部長，在議員中的人數必須嚴加限製，加入國民黨的共產黨員名單必須交出。
同時，協議還規定，不準國民黨黨員再加入共產黨，即使是現有的共產黨員，共產黨若想指揮，也必須獲得國民黨的同意。
國共兩黨至此，不再具備平等合作的地位。顯然，國民黨擁有了淩駕於共產黨之上的“絕對地位”。
按照正常邏輯，此時的共產黨黨組織不可能看不到蔣介石這是什麼意思，也不可能不知道一旦這種協議通過，將對自己意味著什麼。然而，很不幸的是，此時的共產黨第一書記，仍然是一大選出來的“陳”。如果要比軟弱和妥協，陳獨秀的本領，絲毫不輸給汪精衛。
在蔣介石和國際共產主義的雙重壓力下，“陳”簡單表達了一下抗議，隨後便全盤接收了國民黨的決議。
共產黨員在國民黨內的職務和影響力，幾乎是一夜之間，被清理的幹幹淨淨。唯一還能“碩果僅存”的，隻剩下葉挺在軍中領導的一個團。
至此，蔣介石掃清了他前進路上的一切威脅，終於可以開始幹“正事”了。
1926年7月4日，國民政府通過了《國民革命軍北伐宣言》，革命軍將從廣州出兵，以打倒軍閥、解放全國為目標，開始浩浩蕩蕩的北伐戰爭。
作為當仁不讓，也不可能讓的領導核心，國民革命軍總司令一職，自然是由蔣介石親自擔任。
北伐的目標是三個：直係軍閥吳佩孚和孫傳芳，奉係軍閥張作霖。
當然，打敗這三個人，並不代表就能解放全國。此時的中國，各地山頭林立、十分混亂，山西的閻錫山、西北的馮玉祥，也都不是老老實實聽話的人。不過至少，放眼全國，隻有吳佩孚、孫傳芳和張作霖，具備統帥北洋政府的能力。
換句話說，隻要打敗了這三個人，至少從國際上，國民政府就將成為中國唯一的合法政府。
這個誘惑實在是太大了。
北伐軍的出兵時機選擇的也很好，此時，吳佩孚和孫傳芳，正因為北洋政府的領導權，和張作霖之間兵戎相見。
吳佩孚占領的地盤，包括湖南、湖北、河南及河北部分地區；孫傳芳占領的地盤，包括福建、江西、浙江、安徽和江蘇地區。張作霖占據了東北和山東，並將北京城牢牢控製在手中。