公元194年，刘备首次入主徐州。
194年，曹操攻打陶谦，陶谦求救于田楷，田楷带同刘备一起前往相救并击退曹军，陶谦特意送四千丹杨兵给刘备，刘备便依附陶谦，屯于小沛，并被表为豫州刺史。
194年，陶谦病死，麋竺、陈登迎刘备入主徐州。后被朝廷拜为镇东将军、封宜城亭侯。
195年，被曹操打败的吕布来投，刘备准他屯于小沛。第二年，袁术攻打刘备，刘备迎击，但吕布乘机偷袭下邳，刘备惟有改驻海西，途中打败了杨奉、韩暹、冠徐、扬闲等人。后来吕布迎回刘备，还其妻子，准他屯小沛，不久又聚合万余兵。吕布感到危险，出兵攻打小沛，刘备败走，投奔曹操。后曾想再占回小沛，但被高顺所败。
198年，刘备跟随曹操成功消灭吕布。后还许昌，刘备被表为左将军，曹操对其礼遇有嘉，出则同车，坐则同席。汉献帝因不满曹操，令其岳父董承带诏要诛杀曹操，刘备也加入行动，日常在家种菜，减小曹操的压力。一日，曹操宴请刘备，对刘备说:“今天下英雄，唯使君与操耳。本初之徒，不足数也。”刘备听后，吓得筷子也跌了，此时刚好打雷，刘备便对曹操说:“圣人云‘迅雷风烈必变’，良有以也。一震之威，乃可至于此也！”不久，在南方失利的袁术想北投袁绍，曹操便派刘备攻击袁术，但军未到，袁术已病死。
199年，刘备乘机占据下邳，并杀死徐州刺史车胄，留关羽守下邳，自己回守小沛，一方面派遣孙干与袁绍连合，并再连同多个地方势力起兵反曹。曹操曾派刘岱、王忠攻打刘备，但不成功。200年，董承事败被杀，曹操东征刘备，刘备大败，曹操虏获刘备妻子，及生擒关羽。
