1949年4月，《北大西洋公約》簽訂，聯總被歐洲盟軍最高司令部取代，艾森豪再次成了他的上司，擔任了總司令，蒙哥馬利則為副總司令，但他的這一職務實際是個虛職，名義上總司令不在時，由副總司令負責，但實際上參謀長履行真正的副總司令的職責。蒙哥馬利顯然無意去為自己爭點什麼，這一方面是由於他對這種非純軍事領域的權力不感興趣，另一方面他當時的主要任務是抓訓練。而訓練正是他的拿手好戲，他也樂此不疲。此外，他發現自己現在所處的這個無關緊要的位置，可以使他毫無顧忌地對任何事進行批評而不致引起什麼風波，倒也一身輕鬆。這期間，他最過頭的言行，是他提出的核威懾戰略。他提出，在下一次戰爭中，對於核武器，他將會“首先使用它們，然後再提問題”。這一度在英國工黨政府里引起了恐慌。
由於北約組織機構臃腫，存在嚴重的“文山會海”現象，一向不能容忍效率低下的蒙哥馬利在司令部內進行了一些革新，鼓勵簡單明了的做法，反對長篇大論的文章。有一次，他收到一份冗長而無內容的報告，在轉交參謀長時，他附上了一張語言極為尖刻譏誚的便條，他在便條上這樣寫道：
一、您拜讀過這份大作嗎？
如果我們歐洲盟軍最高司令部有大獎，我將給它一等獎和一枚奧林匹克金質獎章，以表彰它如此大量的陳詞濫調、陳腐思想、繞來繞去的長句子、許多人都不明白的生僻詞彙以及冗長和累贅。
二、毋需多言，為北約委員會寫的文件必須表達清晰，語言簡潔，緊扣主題。我們必須講事實，並用事實來說明某種道理。重要的是文件內容的質量，而不是文件的頁數。
三、當討論這份文件時，我希望上帝能出席我們的會議。特別是剩下的465頁如果也像這35頁，我們肯定需要他的幫助。
蒙哥馬利元帥
由於蒙哥馬利的主要精力撲在訓練和演習上，他不得不經常來回奔走，穿梭於北約成員國之間。他同這些國家都建立了良好的關係，包括美國。惟一的一次例外是他當著美國人的面說“航空母艦已經過時”，引起了美國人的一些不滿，但很快也就忘得一乾二淨。
蒙哥馬利的穿梭訪問，使他事實上成了某種非官方使節，而他本人也喜歡以這種非官方使節的身份推行北約重要政策。1953年和1954年，他曾兩度作為狄托的客人訪問了南斯拉夫。後來，他還打算去訪問西班牙，但因北約對西班牙態度複雜，最終沒有獲准成行。