1920年4月，凱末爾黨人在安卡拉另行召開新議會，反對帝國主義的侵略和蘇丹政府的賣國行徑。他們成立了臨時政府，並著手組織正規軍。凱末爾任臨時總統兼國民軍總司令。臨時政府得到了國際無產階級的同情和支持。列寧領導的蘇維埃俄國與他們簽訂了友好條約，並給予各種支援。
1921年初，凱末爾率領的15000人的國民軍，在伊諾努戰役中，打敗了強於自己四倍的希臘入侵軍。到8月份，在英國支持下，希臘10萬大軍向安卡拉的凱末爾臨時政府發起了進攻。一場決定土耳其生死存亡的決戰在8月23日打響。
剛剛建立起來的土耳其國民軍，不管是從數量還是軍隊的裝備上來說，都不是希臘軍的對手。儘管這樣，凱末爾提出了一切為了前線的號召，動員全體軍人不惜一切犧牲，英勇抗敵。所有男子都上了前線，為國民軍運送彈藥的任務就交到了婦女的手裡。他們冒著槍林彈雨，將一發發炮彈送入戰壕，還有的婦女勇敢地端起槍和士兵們並肩戰鬥。
凱末爾親自在前沿陣地巡察，指揮戰鬥。一發炮彈呼嘯而來“轟”的一聲爆炸，戰馬受驚後將凱末爾摔了下來，肋骨折斷了。“將軍，您受傷了，應該回後方休息。”凱末爾忍著疼痛擺了擺手，“別聲張，沒關係，這種時候我無權休息。”說著，他掙扎著爬上馬背，用手支撐著腰，繼續指揮作戰。在他的鼓舞下，國民軍和全國人民英勇殺敵，勢如破竹，擊退了希臘軍隊的上百次進攻，把精疲力竭的希臘軍打得暈頭轉向，節節敗退。
土耳其軍民的努力沒有白費，他們在兩周之內就把英國支持的希臘軍全部趕出了安那托利亞，收復了伊茲密爾，並且還俘虜了希臘軍的總司令庫皮奇將軍，迫使蘇丹逃亡國外。凱末爾因這次勝利被大國民議會授予“加齊”（勝利者）的稱號，並晉升為土耳其國家元帥。
1923年10月29日，土耳其國民軍進軍伊斯坦堡，實現了全國統一。並且召開大國民議會，宣告新興的土耳其共和國宣告成立，凱末爾當選為共和國第一任總統，安卡拉為共和國首都。同年，英、法、意、希等協約國成員同土耳其在瑞士洛桑簽定了《洛桑條約》，廢除了治外法權，確認了土耳其領土和主權的完整。
在土耳其共和國成立之後，凱末爾在政治經濟、文化教育等各個方面進行改革，他努力使土耳其成為資產階級共和國，並且使土耳其世俗化，反對伊斯蘭教神權勢力對社會政治文化生活的控制和束縛等等，這一切後來被人民稱為凱末爾主義。1928年4月10日，憲法刪除了“伊斯蘭教為國教”的條文。土耳其至此完全成為世俗的共和國。
1938年11月10日，病魔奪走了凱末爾的生命，全國人民舉國哀悼。為了紀念這位共和國的締造者，土耳其人民在博斯普魯斯海峽岸邊為他打造了一座塑像。它面向東方，正對著小亞細亞草原。這座人體塑像有一張雕刻得非常細緻的臉，濃密的眉毛，銳利的目光，薄薄的嘴唇上留著兩撇小鬍子，身著西裝，栩栩如生，仿佛正在昂首挺胸闊步前進。
凱末爾的改革使曾經被稱為“西亞病夫”的土耳其走上了民族復興的道路。凱末爾也因此被譽為“土耳其之父”。