就在曹操的势力日益扩大的时候，刘备的势力也渐渐发展起来。
刘备，字玄德，涿郡(今河北省涿县)人，据说是西汉皇帝的本家中山靖王刘胜的后代。不过传到他这一代的时候，家境已经很贫苦，只能靠和母亲一起编卖草席、麻鞋过日子。东汉灵帝末年，社会发生动乱，刘备得到中山(今河北省定县)富商张世平、苏双的帮助，招募义兵，组织地主自卫武装。关羽、张飞前来应募。
张飞字翼德，是刘备的同乡。他性情暴躁，但为人直率，有什么就说什么。他有一身武艺，好见义勇为。
关羽字云长，是河东解良(今山西省解虞县)人，据说他本来并不姓关，因为年轻的时候好打抱不平，常常招惹是非。父母为了让他不再惹事，就把他关在后园空房里。有一天，关羽实在闷得慌，就偷偷地打开窗户逃跑。突然关羽听到有啼哭声，便顺声找过去，发现是一老人在哭。一打听，知道是县令的小舅子仗势欺人，强娶她的女儿。关羽十分气愤，提着宝剑，就去县衙门把县令和他的小舅子杀了。
闯了杀身之祸，关羽不得不逃离家乡。当他逃到潼关时，看见潼关城门上正挂着悬赏捉拿他的头像。凡是进出关卡的人，都要检查。他整了衣服，大胆地走到关卡前，对盘查他的士兵说：“我姓关……”从此以后，他就以假为真，改姓关了。
关羽过了潼关，东行到涿郡，结识了张飞。恰好刘备招兵，他俩就去报名了。刘备看他们武艺高强，很有才干。就和他们在花红叶绿的桃园里结拜为兄弟。刘备是老大，关羽是老二，张飞最小。他们对天发誓，表示要同心协力，做出一番事业。这就是历史上有名的“桃园结义”的故事。
刘、关、张桃园结义后，一边招兵买马，一边打制兵器，扩充自己的武装力量。刘备的兵器是双股剑，寒光闪闪；关羽的兵器是一把大刀，刀形如一弯明月，刀上有青龙图案，所以叫做青龙偃月刀；张飞的武器更特别，是支一丈八尺的长矛，那矛如同一条吐着芯子的毒蛇，因此叫做丈八蛇矛。他们三个带着招募来的士兵，在镇压黄巾起义中很卖力气。东汉政府就派刘备做安喜县(今河北省定县)县尉，主管一县的军事。
刚刚上任几个月的刘备，代表郡守督察下属各县官吏的督邮就来到安喜。这位督邮大人贪赃成性。刘备没给他送礼，督邮因此拒绝见他。刘备憋了一肚子气，决定辞官不干，就带上关羽、张飞，拿着县尉的大印，到督邮的住处去了。
督邮以为刘备送礼来了，很高兴地出来见他。结果看到刘备两手空空，脸色当时就变了，轻蔑地问他：“你是什么出身?”
刘备毫不含糊地说：“我是汉朝宗室，中山靖王后代，因为平定黄巾有功被任为安喜县尉。”
督邮大怒，说：“刘备，你敢冒称宗室，冒领战功!我这次就是受朝廷之命来查处你这种人的!”
刘备更不客气，他让张飞冲上去，不由分说地揪住督邮就打。直到刘备看差不多了，才让住手。随即他把大印往督邮脖子一挂，便骑上马，一溜烟地跑了。
刘备带着关羽、张飞去投奔公孙瓒。他们在公孙瓒那儿讨伐了叛乱称帝的张纯、张举，立下战功。朝廷不但免了刘备打督邮的罪，反而任命他为别部司马。后来，又任命他为平原相。关羽、张飞为别部司马。
刘备哥仨，再带上赵云，一起去上任了。赵云，字子龙，常山郡真定(今河北省正定县)人。他身强体壮，武艺超群，为人正派。他和刘备哥仨隋同手足。一天，他们收到陶谦的求援信。陶谦是徐州牧，他的部将张闿贪图钱财，抢走了曹操父亲的全部财宝，并杀了曹家老小。曹操恨得咬牙切齿，当即下令，三军戴孝出征，立誓要杀死陶谦。陶谦抵挡不住，便求救于刘备。于是刘备带领人马前去援救，逼走了曹操。
陶谦对刘备感激不尽。他认为刘备确是个人才，就给刘备人马，请他留下来帮助自己。刘备感到陶谦非常诚恳，而平原又没什么可留恋的，便答应了。陶谦立刘备为豫州刺史，请刘备驻扎在小沛。从此刘备就以小沛为基地，平时注意发展生产。整顿治安，操练兵马。
后来，陶谦死了。刘备继任徐州牧。被曹操打败的吕布、陈宫前来投奔刘备。刘备让吕布屯兵小沛。吕布虽不满意，可也不好说什么。
不久，军阀袁术为了扩充地盘，就发兵徐州。刘备安排张飞和下邳相曹豹镇守下邳。自己同关羽进军到盱眙迎战。袁术和刘备交战一个多月，不能取胜，就以20万斛军粮、匹战马为交换，约请吕布袭击徐州，同灭刘备。吕布本来就是个反复无常的人，看到有利可图，就接受了袁术的条件，乘着张飞酒醉，攻占了下邳。张飞带着少数人去找刘备、关羽。
但袁术电是个言而无信的人，他并不是真要给吕布军粮、战马。吕布便与刘备讲和。只不过他们互相换了一个位子，吕布占了徐州，刘备到了下邳。袁术看到吕刘讲和。对自己占领徐州不利，就故伎重演，多方疗拉拢吕布，与其结成儿女亲家，挑拨吕刘关系。吕布听信了袁术，带兵去打刘备。刘备已经兵损将折，敌不过吕布，就带着关羽、张飞，以及一些亲属官员，连夜逃到许都——曹操的势力中心。
刘备虽然住在曹操那里，但心里老想着发展自己的势力，他知道曹操对他放心不下，便装出庸庸碌碌的样子。他从不关心天下大事，整天只知道浇水种菜。关羽、张飞不理解刘备为什么变成这样，十分不满。
有一日，正在菜园里浇水的刘备，曹操的部将许褚来找他，说曹公有请，让他马上就去。刘备不知发生了何事，心里十分害怕。可他又不敢违抗曹操的命令，只好硬着头皮去了。曹操拉着刘备走到后花园，坐在一个小亭里，一边吃青梅酒，一边畅谈。
夏天天气多变。不一**云密布，眼看小雨就要降临。曹操指着天上的云彩问刘备：“您知道龙的变化吧?”
刘备回答：“不清楚。”
曹操又说：“龙能大能小，变化不定，龙乘时而变，就好像人得了志，纵横天下。龙就好比世上的英雄。”停了一下，他问道：“玄德，您周游四方，见多识广，请问，准称得上是当代的英雄?”原来曹操是想在酒后，套刘备的实话，看他是不是也有称霸天下的野心。
对此早有防备的刘备，故意说：“我哪配谈英雄!”
曹操说：“您不要谦虚，就说说吧。”
刘备说：“淮南的袁术，已经称帝，可以算作英雄吧!”
曹操笑笑，说：“他呀，不过是坟中的枯骨，我这就要消灭他!”
刘备又说：“河北的袁绍，占领了四个州，手下谋士多，武将勇，可以算作英雄吧!”
曹操又笑了笑，说：“表面厉害的袁绍，胆子却很小；虽然善于谋划，关键时刻却犹豫不决。这种干大事怕危险，见小利不要命的人，可算不上是英雄。”
刘备又说：“刘表坐镇荆州，被列为‘八俊’之首，可以算作英雄吗?”
曹操不屑地说：“刘表徒有虚名而已。也算不上英雄!”
刘备接着又说：“孙策血气方刚，已经成为江东领袖，是英雄吧!”
曹操摇摇头说：“孙策是凭着他父亲孙坚的名望，算不得英雄。”
刘备又举了一些割据一方的军阀，但曹操都不放在眼中，刘备只好说：“我孤陋寡闻，除了这些人，可实在不知道还有谁配称英雄了。”
曹操指指自己，又指指刘备，说：“现在天下称得上英雄的，只有您和我两人呀！”
刘备心里一吓，手一松，筷子掉在地上。与此同时，骤然电闪雷鸣，下起了大雨。刘备赶紧弯腰捡起筷子，谎称：“好响的雷呀!把我吓了一大跳!”
曹操见这么个雷把刘备吓成这样子，以为他是个胆小鬼，禁不住哈哈大笑起来。
刘备见曹操对自己有戒心，就想找个脱身机会，正巧曹操准备派人往徐州截堵袁术，就借口自己熟悉那儿的地形，骗得曹操放他出了许都。为了监视和牵制刘备，曹操派了许灵、路招两位将军同行。刘备大军一到徐州，正赶上袁术的军队抵达下邳。刘备指挥大军一路杀过去。袁术大败而归，不久就吐血身亡。
于是刘备打发许灵、路招回去报信，实际上把他们支走，以免去监视。刘备乘胜进攻徐州。他们直抵下邳城，把驻守的车胄骗出城，并将其围杀，进而顺利地占领了徐州。曹操听说以后十分气愤，决定马上出兵讨伐。刘备无力抵抗，只得去投靠邺城(冀州的治所，在今河北临漳西南)的袁绍。
同时盘踞在北方广大地区的袁绍，经济力量和军事力量都很雄厚，是当时势力最大的军阀。可是曹操占据着中原部分地区，用皇帝的名义发号施令，实力发展也很快。两强对峙，必然要发生尖锐的冲突。