再说，关羽也接到了曹军来的消息，他倒是没有慌乱，在派出的兵士回报下邳城外已经有数万曹军向这里赶来的时候，他是一面命令做好守城准备，一面派出大批斥候探查刘备的情况。可是，下邳和小沛之间的联络已经被切断了。等夏侯惇和张辽带军将下邳围困之后，关羽也明白得不到刘备的消息了。两天后，曹操带领军队也到了下邳城外。
望着城外的大军，想着曹操曾经的水淹下邳城，才是一年前的事情，关羽也明白下邳城破是早晚的事情了。他可没有什么本钱和曹操斗。更何况，曹军才围城几天，城中已经弥漫着投降的气氛。城外的军营中，张辽正在向曹操进言，欲亲自进城去说服关羽来降。早在当初刘备收留了吕布以后，张辽和关羽之间就是英雄相吸，成为好友。现在虽然在两个阵营里，张辽还是不愿意看到关羽人头落地，故而向曹操提出说服关羽开城纳降。不过，曹操却不愿意冒这个险，在占了绝对优势的情况下，没有这个必要。只是，他也喜爱关羽这样的人才，下令即便城破，也要务必生擒关羽本人。
这个时候，随军的荀攸出主意了：“主公，下邳已是孤城，我料那关羽得不到刘备的消息，心中必然不安，我们可将一面城门放松围困，让他有出城的希望，待诱其出城后，可起埋伏困之，到时候，再由文远将军说服与他，恐可降之。”曹操一听，有理，反正我也不想老耽搁在这里，袁绍那边要紧点头同意，自安排了下去。关羽也真听话的，当天晚上就带领亲随，保护着刘备的家眷出北门欲投往他处。
关羽出城未遇上多少阻拦，他心中也感觉不妙，可是开弓没有回头箭，回去是不可能的了，因为就在他出城后，曹军已经涌进了下邳。努力向前的关羽在离下邳城二十里处被预先埋伏的曹军围困了个正着。这些曹军全是清一色的虎豹骑精兵，三千人将关羽的二百兵士围困在中间，却不发一声。
关羽眼望着张辽缓缓越众而出，他叹道：“文远欲取关某人头乎？”张辽摇头：“云长兄，今日你已陷绝地，何苦再作抵抗。辽奉主公之命，劝说与兄。” 关羽冷笑：“关某可是能降之辈？今日唯有一死尔。”张辽摇头：“刘皇叔与张将军自从小沛一战，下落不明，君不欲再见二人乎？”关羽淡淡言道：“吾自欲前往寻找之，你可放马与我一战。”张辽苦笑了，想了想：“兄自是武艺高强，辽不是你对手。然而，刘皇叔之家眷性命可保乎？兄不为自己想，难不成不为他们着想？你能带他们闯出重兵包围吗？主公甚是喜爱兄之才，如果兄肯归顺，我等必不伤害他们也。”
关羽沉吟半晌，说与张辽：“文远言之成理，不过，若曹公依我说言，羽方可降。”张辽急问：“兄有何言，试说之？”关羽道：“吾与曹公约法三章：一，吾乃汉臣非曹臣；二，不得有对吾皇嫂不敬之处；三，羽旦得兄长消息，必辞去以就，曹公不可留我。”张辽犹豫片刻：“待辽前往主公处说之。”他自来见曹操。