即使在袁世凱時代，西南和東南地區(qū)也不是中央政府所能完全控制的。等到袁世凱死后，各地軍閥紛紛割據(jù)，更是一片亂象。

直皖關系，已到了非經(jīng)一戰(zhàn)不能解決的嚴重地步。但“光桿”總統(tǒng)徐世昌還在想找出一個避免戰(zhàn)爭、解決時局的方案。這樣，坐鎮(zhèn)關外、手握重兵的張作霖就成為解決問題的關鍵。

于是，1920年6月19日，張作霖就以響應總統(tǒng)電召之名，打著調停時局的招牌，乘坐由兩連衛(wèi)隊和四挺機槍保護的專車，從他的東北老家威風凜凜地抵達了北京城。 這是北京城的一件大事，京城的要人們都到車站迎接，其威風不減三年前他的親家張勛帶兵入京的盛況。 到京第二日，張作霖馬上以“和事佬”的身份拜訪徐世昌總統(tǒng)，并揚言：“在我張作霖眼里，無所謂直系、皖系。”接著，他又南下與直系首領曹錕會談，忙得團團轉。會談的結果是，以調停人身份與曹錕等人聯(lián)名宣布徐樹錚的六大罪狀，要求罷免徐樹錚，解除徐樹錚的兵權。

徐樹錚是皖系首領段祺瑞的第一心腹。他曾對段祺瑞說：“自民元以來，政府為國會操縱，鬧得天翻地覆，曷若自個組織，簡直和編練軍隊一樣，我有子弟兵，則操縱在我。”此話甚合段祺瑞心意。他委派徐樹錚組織成立了安福俱樂部，憑借這么一個集團控制了國會。又利用日本人的錢和武器，編練了一支屬于自己掌握的武裝。

直系軍閥執(zhí)意要罷免這樣對段祺瑞功勛卓著的人物，原因恐怕只有一個——讓段祺瑞失掉左膀右臂，舉步維艱。 畢業(yè)于當時名牌大學日本士官學校自視甚高的徐樹錚，怎么會把南北的軍人政客巨頭放在眼里。他堅決主張段祺瑞采取強硬態(tài)度，不應過分示弱，最大讓步只能接受把西北邊防軍改歸邊防督辦直轄，他仍留任西北籌邊使。徐樹錚用挑撥的口吻說：“如果超過這個限度，就是不替督辦留余地，而我輩今后也抬不起頭來了。” 段祺瑞是個意氣用事的人，聽了徐樹錚這番話，立刻把桌子一拍說：“對，我們不能再退一步了。他們欺人太甚。” 張作霖聽說段態(tài)度轉趨強硬，便跑到北京來向段告辭，說自己調停為難。段咆哮說：“徐樹錚不費一槍一彈收復外蒙，有什么地方對不起國家，一定要他去職，分明是給我難堪，太欺負人了。”