張作霖本是一個老粗，雖然他粗中有細，智慧特高，可是由他扮演“和事佬”，究竟是所用非所長，何況直皖兩系的積怨已深，雙方距離根本無從拉近，他已盡了全力。他了解問題的癥結在于“解除徐樹錚的兵權”?？蛇@卻是最難讓段祺瑞接受的，當年為了小徐，段不惜和他受恩深重的老長官袁世凱反目，今天自然不會為了對直系讓步而犧牲小徐。他自己感到調和已不可能，段態(tài)度又轉強硬，更無法談得出結果，所以30日他又備車要離北京。 徐世昌挽留他，認為張作霖一走，戰(zhàn)爭便無可避免，所以再三請張再作最后的努力。7月6日，徐世昌又請張作霖去段祺瑞住處再作調解。這天段的火氣更大，張作霖勸段冷靜，應該化大事為小事，退一步著想。段聽了很不耐煩地說：“你回你的奉天，不必管這兒閑事。”張聽了一聲不響就告辭而去。7日深夜1時，張作霖并未與任何人作別，悄然乘車出京，隨即宣言“局外中立”！

北京城頓時謠言四起，人心惶惶，達官貴人紛紛出京避難，東交民巷的使館區(qū)和外國飯店都告客滿。 這時，段派積極備戰(zhàn)，直軍亦布置防線，不遺余力。7月14日，直皖戰(zhàn)爭在京津一帶爆發(fā)。皖系以五個師四個混成旅組成定國軍，段祺瑞任總司令，徐樹錚任副總司令兼參謀長。直系以一個師九個混成旅組成討逆軍，以曹錕為總司令，吳佩孚為前敵總司令兼西路總指揮。盡管皖軍在人數與武器裝備上優(yōu)于直軍，但徐樹錚完全不是吳佩孚的對手，吳佩孚不僅作戰(zhàn)勇猛，且戰(zhàn)術多變，使皖軍連吃敗仗。吳佩孚一馬當先，率直軍主力大打閃電戰(zhàn)，只四天即擊潰比自己更為強大的皖軍，俘獲其前線司令官、早年保定學堂的老師曲同豐將軍，并差一點生擒昔日的段校長。 而皖系將領里面又多是像第一路軍總司令的段芝貴這樣的飯桶。這位老兄打仗的時候就坐在一列火車專列里面，專列兩頭都掛上火車頭，勝就向前開，敗就向后開。西路皖軍戰(zhàn)敗的消息傳來，他就急忙大叫開車，一路狂奔逃回北京的家中。在這個百無一用的總司令率領下，皖系第一路軍全部潰散，不是逃跑就是投降。

而令段祺瑞更震驚的是，在直皖戰(zhàn)爭爆發(fā)前夕，關外的張作霖突然宣布討伐徐樹錚，隨即揮師入關并進占天津的馬廠、軍糧城等地，很明確地站在了直系的一邊。 段祺瑞怎么也想不明白，自己親手打造的中央軍邊防軍西北軍的失敗會如此之神速，而又敗得如此徹底。而他主政下的皖系政府，推行親日政策。段祺瑞用日本人的錢建構了一個自己的帝國，卻也因為這來自日本的錢，最后讓自己的帝國變成了泥足巨人。

巴黎和會上北洋政府外交的慘敗，讓皖系更加地失去了民心。 東路軍總指揮徐樹錚獲知西路戰(zhàn)敗的消息，知道大勢去矣，深夜逃回北京。直系軍大隊開到長辛店，將四圍潰敗段軍逐一掃清。至19日，京津線、京漢線皖軍全被清除。 短短四天，直皖戰(zhàn)爭結束。徐樹錚被懸賞10萬元通緝，走上四處流亡之路。皖系首領段祺瑞宣布引咎辭職，辭去邊防督辦一職并請撤銷歷年之勛位、勛章，邊防軍、西北軍也即日解除，以謝國人。從此，皖系作為一種政治勢力也煙消云散。直系軍閥勢力崛起。但依然是你方唱罷我登場，民國的舞臺上，軍閥間的攻伐非但沒有減少，反而更加地頻繁了。