在讨伐董卓的关东军将领中，曹操可以算是办事认真，有勇有谋，最有见识的人。
曹操，字孟德，小名阿瞒，沛国谯县（今安徽省亳县，亳bó）人。他从小就很机警，能够随机应变。二十岁时被举为孝廉，担任了皇宫的侍从官。不久，他被调任洛阳北部尉，负责洛阳北部的治安工作。洛阳虽说是京都，可是外戚、宦官倚仗权势，为非作歹，把洛阳城闹得乌烟瘴气。曹操决心整顿好京都的秩序。他一到任，就颁布了一道“夜禁令”，禁止深夜酗〔xù〕酒游逛。每天夜里，派出士兵在城北一带巡查，专门检查“夜禁令”执行的情况。他还叫工匠赶造了二十多根用五种颜色油漆的大棒，分别悬挂在衙门两旁，准备严厉惩罚那些违法乱纪的恶人。
一天夜里，曹操亲自带着一队士兵出去巡逻。夜已经深了，四下里静悄悄的。突然从远处传来了一阵狗叫声。曹操马上警觉起来，命令士兵注意四周的动向。不一会儿，在街头转角处闪出了五六个人影。只见他们走到一间民房门前，停了下来。有一个随从模样的人说：“蹇大人！就是这家，已经到了。”
这个被称为“蹇大人”的，是皇帝亲信宦官蹇硕的叔叔，一般人就叫他蹇叔。这家伙倚仗侄儿在朝廷的权势，霸占土地，欺压百姓，无恶不作。他是洛阳城北一个出名的地头蛇。他白天干尽了坏事不算，晚上还经常带着一批爪牙闯入民宅，抢占民女。这天晚上，他们一伙又想闯人一家民房去捣乱，不料这一次正好撞到了曹操手里。蹇叔一伙正在叫喊敲门，曹操大喊一声：“来人！抓住这批歹徒！”巡逻队应声一拥而上，把蹇叔等人全都捆绑了起来。这时候，蹇叔还强作镇静，摆出一副满不在乎的样子，嘴里骂道：“你们是些什么人，胆敢捉拿起老爷来！”巡逻队的士兵不由分说，把蹇叔等人押回衙门审问。
曹操坐在衙门的厅堂正中，见蹇叔还那么嚣张，就更加愤怒，大喝一声：“你们倚仗权势，漠视禁令，本部尉决不宽容，定要切实依法严惩！”接着吩咐士兵：“拿五色大棒来！”在旁边站立的士兵听说要棒打蹇叔，心里高兴极了，他们立刻将蹇叔按倒在地，用五色大棒一顿好打。不一会，蹇叔的四肢就挺直了。曹操这才命令退堂。棒杀蹇叔的故事，说明曹操是一个不畏强暴的人。
董卓进洛阳的时候，曹操正担任典军校尉的职务。董卓想拉他入伙，让他任骁骑校尉。但是曹操看到董卓的暴行很不得人心，认定他必然会失败。所以不管董卓怎样拉拢，怎样封官许愿，曹操都不愿意跟董卓合伙，而是想方设法地逃出洛阳，回到了陈留（今河南省陈留县）。曹操的父亲住在陈留，已经积累了一部分财产，可以供曹操用来招兵买马。陈留太守是曹操比较熟悉的朋友，他在政治上能够支持曹操。因此，曹操把陈留作为自己的基地，开始起兵反对董卓。
曹操起兵的第一步是找志同道合的人作帮手。他找到了卫兹。卫兹是本地的孝廉，为人正直，家里有很多财产，对董卓操纵朝政也非常不满。一天，曹操摆好酒席，请卫兹来商谈。在喝酒的时候，曹操说：“如今汉朝衰落，董卓专权，欺君害民。我想改变这种局面，阁下能助我一臂之力吗？”卫兹赶紧回答说：“曹君说那里话。您有这样大志，我当然愿意把全部家产拿出来，做为招募义兵的费用，追随左右。愿曹君发扬当年棒杀蹇叔的勇气，兴兵除掉国贼董卓！”说到这里，卫兹兴奋得举起杯来说：“我预祝您成功。”曹操和卫兹两人越谈越投机，一直谈到深夜，卫兹才告别回家。
曹操在陈留得到卫兹的帮助，开始招兵买马。这消息很快传了出去，不少对董卓不满的中小地主带着他们的子弟来投奔曹操。不久，曹操的同乡好友夏侯惇〔dūn〕、堂弟曹洪，听到曹操招兵，也带了一批人赶来参加。曹操的队伍越来越壮大，很快就聚集了五千多人马。汉献帝初平元年（公元190年）正月，他带兵参加了以袁绍为盟主的关东军，讨伐董卓。
这支新联合起来的关东军，将领们都抱着割据一方的野心，为了保存各自的实力，谁也不敢和董卓交锋。独有曹操带着几千人，和董卓部将徐荣打了起来。曹操寡不敌众，被打败了。关东军也就开始散伙。曹操为了补充兵员，和夏侯悖到扬州等地去募兵。袁绍也先后夺取了冀州等地，称雄北方。各地豪强继续混战，给人民带来了无穷的灾难。各地农民被迫起义，如同烈火遇见干柴，又迅速地蔓延开来。初平三年（公元192年），青州的黄巾起义军攻入兖州，杀了刺史刘岱〔dài〕。兖州的官吏请曹操担任兖州刺史。曹操集中兵力，打败了黄巾起义军，得到降兵三十多万。他从中挑选健壮青年，充实和扩大自己的队伍，组成了有名的“青州兵”。从此，曹操在兖州建立了更加强固的根据地。
曹操从陈留起兵到进入兖州，只有两年的时间。在这两年当中，曹操的势力不断壮大。他不仅脱离了袁绍，形成为一支独立的势力，而且逐渐地敢于和袁绍争锋了。