青面兽杨志是一个门第观念非常重的人，他是三代将门之后，武侯杨令公之孙，曾当过武状元还在朝廷担任过制史的职位。可以说杨志乃将门之后，官宦之家，祖祖辈辈都是在朝廷当官儿的，所以到了他这一辈儿自然希望能够延续祖辈的荣耀继续在朝廷当官儿。杨志的显赫家世形成了他孤高自傲的性格，根本就看不起梁山这些绿林草莽，即便是自己落魄流亡江湖的时候面对梁山寨主王伦的盛情相邀也是选择了断然拒绝。
杨志奉命到太湖为皇上押运黄石纲至京城，没想到押着那花石纲来到黄河的时候遭风打翻了船，失陷了花石纲，杨志不没办法回京交差，于是远遁他乡避难。后来朝廷大赦天下，杨志又想东山再起，于是变卖家产收拾了一担儿钱物准备到东京枢密院进行打点试图官复原职。
杨志挑着一担财物途经梁山脚下的时候恰巧遇到林冲，两人大战五十回合不分胜负，王伦赶到邀请杨志入伙梁山遭到了拒绝。杨志来到东京后把银子花光了不但没有官复原职反而被高俅给轰了出来。此时的杨志已是身无分文，身边唯一有价值的东西就是那口祖传宝刀。一文钱难倒英雄汉，杨志走投无路之下决定把宝刀卖了换点银子。
杨志抱着宝刀在大街上站了两个时辰也无人问津，正在杨志焦急的时候碰到了东京有名的泼皮无赖牛二前来捣乱。牛二专门在街上撒泼行凶连开封府也拿他没办法。牛二看到杨志怀里的宝刀，不分青红皂白就把刀抢过来了，杨志说这是祖传宝刀，砍铜剁铁刀口不卷；吹毛得过；杀人刀上没血。如果你想买就要出价三千贯。牛二说既然是宝刀敢剁铜钱吗？杨志说当然可以，牛二从当铺里拿了二十个铜钱放在桥栏杆上，杨志接过宝刀手起刀落把铜钱剁做两半。
牛二从自己头上拽下一绺头发来让杨志砍，只见杨志照着刀口上尽气力一吹，那头发都做两段，纷纷飘下地来。牛二无理取闹又要求杨志杀个人看看刀上究竟有没有血，杨志说杀人不行可以杀条狗看看，牛二非要逼着杨志杀人，为此两人争执起来。
牛二耍起了无赖他告诉杨志要么你把宝刀给我，要么你杀了我。杨志大怒把牛二推了一跤。牛二爬将起来，钻入杨志怀里起右手，一拳打来。
杨志躲过顺势望牛二嗓子眼儿上捅了一刀，牛二倒地杨志赶入去，把牛二胸脯上又连捅了两刀，血流满地，死在地上。杨志主动到开封府投案自首，当地老百姓都感谢杨志为民除害于是一起到大堂上为杨志求情，开封府尹经过斟酌决定免去杨志死罪，断了二十脊杖迭配北京大名府留守司充军。