曹操仰慕关羽的忠义，想将其收为己用。在将关羽带到许昌后，曹操便带着关羽去求见汉献帝，将其任命为偏将军，赠给大量的金银财宝、绫罗绸缎及美女十人，又将吕布的赤兔马送给了关羽。但关羽不为所动，仍表示一旦得到兄长刘备的下落，必将离去。此言不禁令曹操愕然不已。
此时，寄寓袁绍门下的刘备正在与袁绍商议破曹之策。谋士田丰认为不宜主动发动进攻，应该以持久战的方式对付曹操。不过，田丰的劝谏令袁绍非常恼怒，下令将田丰关押，同时又任命颜良为先锋，向白马发动进攻。曹操闻讯后，亲自率军来到白马，与颜良交锋。
在双方进行的首次较量中，颜良大展神威，在阵前斩杀宋宪、魏续二人。曹操又派徐晃出战，结果仅二十回合便败下阵来。曹军诸将对颜良的武勇惊恐不已，曹操心中也非常忧虑。此时，谋士程昱向曹操提出，将关羽调到前线对付颜良。
曹操采纳了程昱的建议，关羽来到了白马。曹操告诉关羽，颜良勇不可当，关羽则认为颜良不堪一击。战斗开始后，关羽一马当先冲入颜良阵中，颜良措手不及，被关羽一刀斩于马下。曹操率部掩杀，大获全胜。
小说中提到的此次关羽斩杀颜良之战，在历史上的确发生过，但过程非常简单。据《三国志武帝纪》载：“公乃引军兼行趣白马，未至十余里，良大惊，来逆战。使张辽、关羽前登，击破，斩良。”《三国志关羽传》则称：“曹公使张辽及羽为先锋击之。羽望见良麾盖，策马刺良于万众之中，斩其首还，绍诸将莫能当者，遂解白马围。”
从这两段记载来看，斩杀颜良的确是关羽的功劳。但是，还有两人对此战发挥了关键作用，其中之一便是曹操的谋士荀攸。《三国志荀攸传》载，白马之战开始时，荀攸曾对曹操说过这样一番话：“今兵少不敌，分其势乃可。公到延津，若将渡兵向其后者，绍必西应之，然后轻兵袭白马，掩其不备，颜良可禽也。”
荀攸的计策意图非常明确，用的是声东击西的策略，分散袁绍大军的兵力，寻找可趁之机。从《三国志》相关传记载，曹操采纳了荀攸的这一计策后，即令大将徐晃渡过延津，摆出要截断援军退路的架势，令袁绍心存忌惮，下令分兵迎击。此举造成在白马一带的颜良所部兵力不足，给了曹军可趁之机。
此时，曹操突然派张辽和关羽率精兵突袭，颜良猝不及防，结果被关羽斩杀。可以这么说，除了荀攸的献策之外，同为先锋的大将张辽的作用也非常巨大。如果没有张辽的牵制，关羽也不可能仅凭单人独骑就冲破袁军的重重防线冲到颜良面前并将其斩杀。不过，小说作者为了突出关羽的神勇，不但在小说中不描述荀攸的这一决定性献策，又隐去了张辽的作用，而是将功劳全部都放在了关羽的头上。不过，关羽能在“万众之中”斩杀颜良，足以体现其高强的武艺和过人的胆识，此战也令关羽名扬天下。
至于不少人提及的关羽兵器问题，在《三国志关羽传》这段斩杀颜良的记载中也能找到一个大致的答案。《三国志》作者在描述这段关羽斩杀颜良时，用了一个字：“刺”。这说明关羽使用的兵器是矛、戟之类的直刺类兵器，并不是众所周知的青龙偃月刀。所谓的青龙偃月刀，不过是后世民间艺人们发明创造出来的产物，并非历史的真实。