曹军退后，陶谦又要把徐州让给刘备。刘备不肯答应。陶谦只好对刘备说：“玄德是汉室皇叔，应该统领徐州才对！”刘备说：“徐州是陶太守的，我不会领命的。”陶谦说：“既然刘皇叔大仁大义，我也不会强求你。徐州城外有一军事要塞名叫小沛，你可以领兵到那里驻守。这样可防备曹操再带兵来进攻徐州。”刘备说：“好！”马上带领关羽、张飞等将领往小沛去了。
吕布被曹操打败，走投无路来投奔刘备。刘备这时已经当上了徐州牧，统领徐州。因为陶谦死了，陶谦在临死的时候，把徐州送给了刘备。
吕布来投奔刘备。张飞不同意，他说：“吕布是一个出尔反尔的小人，他来到这里一定会谋害哥哥你的，还是不要理他。”刘备却说：“吕布在曹操进犯徐州的时候，他攻打了兖州，牵制住了曹操，才使曹操放弃攻打徐州。徐州之围解除，吕布是有功劳的。现在吕布被曹操打败，走投无路，我们应该收留他，不然天下所有的人都会讥笑我们不仁不义。”
刘备出城迎接吕布进城，刘备拿出徐州大印放在手上，然后对吕布说：“陶公去世的时候，叫我代他统领徐州，我刘备无德无能，经常担心管理不好徐州，怕辜负了陶公的期望，也害怕徐州老百姓因为我而受苦。现在吕将军来了，我准备辞去这个徐州牧，让吕将军统领徐州，你认为怎么样呢？”吕布忍不住接口说：“好啊！既然刘将军有困难，不愿当这个徐州牧，我很愿意为刘将军分忧！”说完他站起身来要去接刘备送过来的徐州大印。
关羽、张飞站在刘备后面怒视着吕布，吕布慌忙假笑着对刘备说：“其实我吕布也不能统领徐州的，刘将军大仁大义、德高望重，为徐州的老百姓钦佩敬仰，可见是徐州牧的最好人选。
我还是听刘将军的吧！”刘备又要把官位让给吕布。吕布的谋士陈宫说：“我们是宾客，刘将军才是主人，不要乱了秩序。刘将军不要再谦逊了。”刘备只好不再强求。
第二天，吕布请刘备喝酒。关羽、张飞也跟着来了。在喝酒的时候，刘备又提出让吕布当徐州牧。吕布又假装说道：“刘贤弟不要再让我为难了。”张飞听了吕布这话，忍不住大怒：“你竟敢欺负我家哥哥！你是不是想挨打，我不怕你，我们到门外去大战三百个回合，看谁打败谁！”刘备连忙大声喝住张飞，关羽让张飞回去不要在这里捣乱。吕布很不高兴。散了席后，张飞骑着高头大马，拿着他的蛇矛来到吕布门前叫阵。又被刘备叫住了。
吕布要和刘备辞别，吕布说：“刘将军待我为上宾，我记在心里，但张飞等人很不欢迎我，我还是领兵走吧，免得让刘将军为难。”刘备赶忙拦住吕布说：“吕将军这话就说得不对了。我三弟张飞很鲁莽你不要放在心上，不要和他一般见识。”吕布又说：“我还是走吧！”
刘备苦苦相劝，最后说：“吕将军如果不嫌弃小沛是一个小地方的话，那就请吕将军把军队驻守到那里去吧！”吕布大声叫好。于是吕布带领他的部队驻扎到小沛去了。
这时，曹操率领大军平定了朝廷内乱。要挟汉朝天子刘协迁都许昌，曹操一时威震四方。很多人都佩服曹操挟天子以令诸侯这一计策。曹操想消灭吕布，谋士为他献了绝妙密计。就是让刘备和吕布反目成仇，互相攻击。吕布中了计。吕布乘刘备带领大军去攻打袁术的时候，一下子就攻下了徐州城，徐州成了吕布的地盘。
袁术知道吕布攻占了徐州，马上派人告诉吕布，如果愿意出兵夹攻刘备，他愿意送金银财宝给吕布。吕布这样做了，把刘备打得大败。但袁术却没有给他金银财宝。吕布心里愤怒不平，想要带兵去攻打袁术。谋士陈宫对他说：“你不是袁术的对手，他兵多粮足，一时间难以打败。将军不如把刘备请回，让他驻守小沛，这样双方讲和，里外有个照应，就不怕袁术了。
到时候就可以命令刘备为先锋，先消灭袁术，后攻打袁绍，到那个时候，将军就可以成就霸业了。”吕布采用了陈宫的计策，又请刘备回小沛驻扎坚守。刘备只得带领关羽、张飞去小沛驻守。