四处流浪。这时候，徐州的陶谦刚去世，刘备接替了陶谦，当了徐州牧。吕布听说刘备为人宽厚，就带着自己的人马去投奔刘备。刘备见吕布走投无路，又觉得他是个有名的勇将，就收留了他，还把小沛这个地方给了吕布驻扎，让他暂时有个安身之处。
可吕布这个人，从来就不是安分的主。他在小沛待了没几个月，就又开始动起了歪心思。当时，袁术派人去拉拢吕布，许诺给他二十万斛粮食，还有不少金银珠宝，让他在刘备率军攻打袁术的时候，趁机夺取徐州。吕布一听有好处，又动心了，立刻就答应了袁术。
果然，没过多久，刘备就率军去攻打袁术，徐州城里只剩下张飞驻守。吕布趁机率领大军，偷袭徐州。张飞虽然勇猛，但当时正在喝酒，喝醉了之后根本无力抵抗，只能带着几个亲信逃走。吕布没费吹灰之力，就占领了徐州，还俘虏了刘备的家眷。
刘备在前线听说徐州被吕布夺了，气得差点吐血，可又没办法，自己的军队打不过吕布，只好又回过头来，向吕布投降。吕布见刘备来投，倒也大方，把小沛又还给了刘备，让他在那里驻守，自己则在徐州当起了徐州牧。就这样，刘备好心收留吕布，最后却被吕布反咬一口，丢了自己的地盘，这也成了吕布“反复无常”的又一个铁证。
吕布占据徐州之后，袁术又派人来跟他提亲，想让自己的儿子娶吕布的女儿，两家结为亲家，一起对付刘备和曹操。吕布一开始答应了，可后来刘备派人来劝说吕布，说袁术要是跟他结了亲，以后势力会更大，到时候吕布也会被袁术吞并。吕布一听，觉得有道理，就又反悔了，不仅把袁术的使者给抓了起来，还把他送回了袁术那里，两家的婚事也就这么黄了。
袁术见吕布出尔反尔，气得不行，立刻派大将纪灵率领三万大军，去攻打小沛的刘备。刘备兵力薄弱，根本抵挡不住纪灵的进攻，只好又派人去求吕布帮忙。吕布的手下都劝他，说刘备是个潜在的威胁，不如趁这个机会，让纪灵把刘备给灭了，省得以后麻烦。可吕布却不这么想，他说：“刘备要是被纪灵灭了，下一步袁术就该来打我了，我不能坐视不管。”
于是，吕布就率领一千多骑兵，赶到了小沛城外。他把纪灵和刘备都请来，在自己的营寨里喝酒。酒过三巡，吕布对纪灵说：“我今天请你们来，是想为你们两家化解矛盾。我吕布不喜欢打仗，只喜欢劝和。”说着，他让人把自己的方天画戟插在营门外面，然后对众人说：“我现在站在营门里，要是我能一箭射中画戟的小枝，你们两家就罢兵言和；要是射不中，你们再打不迟。”
纪灵和刘备都觉得这不可能，画戟的小枝那么细，而且距离又远，怎么可能一箭射中？可没想到，吕布拿起弓箭，搭箭拉弦，只听“嗖”的一声，箭正好射中了画戟的小枝。纪灵和刘备都惊呆了，纷纷赞叹吕布的箭术高超。纪灵没办法，只好按照约定，率领大军撤退了。这就是历史上有名的“辕门射戟”，也是吕布一生中少有的高光时刻，既展现了他的武艺，也暂时化解了一场危机。
吕布虽然暂时稳住了徐州的局势，但他自己并没有什么雄才大略，又听不进陈宫等人的建议，反而重用陈登、陈珪父子这样的小人。这陈氏父子表面上对吕布忠心耿耿，实际上早就暗中投靠了曹操，经常把徐州的情况偷偷告诉曹操，为曹操攻打徐州做准备。
公元198年，曹操觉得时机成熟了，就亲自率领大军，联合刘备，一起攻打徐州。吕布得知消息后，赶紧率军驻守下邳，也就是今天的江苏邳州。曹操的大军很快就包围了下邳，派人去劝吕布投降。吕布一开始还想投降，可陈宫等人劝他说：“曹操这个人多疑，您要是投降了，肯定没有好下场。不如咱们坚守下邳，等待袁术的援兵。下邳城防坚固，粮草也还充足，只要咱们能守住几个月，曹操的军队粮草耗尽，自然