終於，陶謙在數敗於曹操的情況下，知道曹操勢力太過強盛，而他本身所據守的沛縣城又實在太過鄙薄，難以憑恃以抗大敵，最後無奈，做出了撤退沛縣的決定。當然，在下這個決定之前，其實身在郯縣的陳登就曾勸過他，讓他事若不濟，可暫回東海以做計較。當是時，陶謙並不了解陳登說出這話的深意，還以為陳登是在沮自己軍心，所以也沒有同意。及至苦撐良久，見實在架不住曹操的猛攻，最後也只好妥協，將大兵往後撤往東海之陰平。
曹操得一沛縣當然無用，看看陶謙走了，立即起大兵，尾追而來，再圍陶謙於平陰。陶謙望著城下浩浩的人馬，心裡也已經發了毛。說實在的，他也沒有想到，他本起兵攻臧霸於開陽，最後開陽沒有攻下，不出兩月形勢就逆轉成這樣，被人家攆到了家門口追打，實在是豈有此理了。他此時，不管是懊惱也好，悔恨也罷，反正事已至此，也只能是走一步算一步了。不過，當他一想到曹操兵鋒的銳利，以及自己一方戰將的缺失，心裡實在是沒有必勝的信念，甚至想到，如果東海也不保，他徐州的將來會是個什麼樣子，會不會等不到兒子的接手，徐州就會落入曹賊之手？想到這裡，陶謙兩眼更是暗淡無光，毫不起色。
好在這之後兩日，從郯縣那邊的援兵到了。這支援兵不過三千人，還是在此前陶謙讓陳登緊急收攏來的。雖然人馬少是少了點，但總比沒有的好。更何況，隨著援兵到來的，還有陳登的一封書信。陳登在書信中說，他在病榻之中不能與使君共赴州難，很是慚愧。又一面則勸陶謙不可與賊戰，只需僅守城池，以待敵變，然後可相機行事云云。陶謙得此書信，也是看的莫名其妙，陳登身在後方，他又是怎麼會知道敵情將有變？但一想，或者陳登這麼說是在安慰他罷了。
不管陳登之意若何，但陶謙因為陳登的一封書，倒是信心稍增。他這裡，按照陳登的吩咐，只將人馬收攏入城，緊緊堅守平陰城，也不開城出戰。叵耐陶謙做了這縮頭烏龜，曹操想要與他接戰又不可能，只能是督造器械以備來日大戰。然而，曹操圍城日久，這才發現問題接踵來了。
先是，久戰不能拔賊城，下面士兵就有怨言了。畢竟冬季出兵本就違背常規，士兵也是人，他們之中多數人還未更換冬衣呢，如何抵禦一日強似一日的天寒氣候？二來，曹操起如此多的兵馬，又收攏了許多降兵，糧草消耗嚴重，前日軍需官報說，已是快揭不開鍋了。加上戰線拉長，運輸上面更加耗時耗力，要想跟上接濟又實在是難。而更加要命的是，他當初起兵，那是因為賊人打到他家門口來了，不得不這麼做。說白了一點，他的出擊是屬於『自衛』，眾將士多為兗州人士，自然賣力些。而如今，賊人都退出了沛縣，示他們以弱了，他們卻還要打來，且深入敵人腹地，於是他們這支人馬在無形中，也由當初的『自衛』變成了如今的侵略，性質不一樣，士氣自然也就不一樣。
一旦屯兵挫銳，久不能拔賊城，士氣自然跟著下降，下面的怨言自然隨之滋生。有許多將士甚至說管束不了自己的兵馬了，說若再不撤兵，只怕有炸營的危險。身在此境，曹操就算是再有一百個能耐，也已經不得不考慮撤兵的問題了。軍心是關鍵，糧草次之，若一旦在外之師不能保證這兩點，那麼再戰下去……曹操也心知必然會出亂子。雖然說，曹操好不容易逮到了這麼一個進犯徐州的大好機會，要是輕言放棄，實在是可惜了。但他也不是蠻來之人，既然知道士氣不可用，他也只能是做出撤兵的決定。
望著平陰城池，以及周圍將士的臉龐，曹操心裡輕輕嘆了一口氣，嘴上卻是笑道：「古言冬夏不興師，偏偏是他陶恭祖逼得我違背常規，無奈發兵。如今看來，既然教其知道了厲害，我等也該順應天理，大家都隨某回兗州過年去吧。」曹操此話一說，兩邊文武心裡自然的樂了，也都相繼點頭，紛紛稱頌主公英明！曹操哈哈一笑，當即大手一揮，讓傳下軍令，擇日撤兵。
曹操圍城的這些日子，對於陶謙來說，實在是太過煎熬。看著下面浩蕩的賊兵，陶謙也實在想不明白陳登當初為什麼要說曹操會退兵的話。然而，當某日清晨起來，探馬報說賊人已經撤兵而去，只留了許多空營在城外，陶謙這才知道，陳登的話靈驗了，賊人是終於撤兵了。他這裡尚不明白陳登為什麼能言中此事，但一想到賊人既然走了，他這裡要是一點舉動也沒有實在是對不住曹操了，也顯得他太過沒有面子了。當下，陶謙點齊兵馬，準備親自帶兵追擊，但被劉備等勸阻，讓陶謙不可親犯其險。陶謙聽來此話倒覺有理，也就分派出兵馬，讓曹豹、劉備幾個率部追擊曹操，他則坐守平陰城，以待消息。