一山难容二虎，宋江上梁山之后，他和梁山前任首领晁盖之间的争斗，就已经在明中暗中进行了。
宋江刚上梁山时，本身是占劣势的，梁山上的老大是晁盖，核心人物吴用、公孙胜和林冲，也是晁盖的人，这导致宋江上山后，注定要屈居晁盖之下，但宋江一个小计谋，让他反败为胜，压制住了晁盖一头。
宋江和张顺、张横、戴宗等一众兄弟上梁山后，晁盖为了将他们安排进梁山队伍，所以准备重新给弟兄们排座次，鉴于宋江的江湖威望和有恩于自己，晁盖让宋江做了副首领，然后让两个心腹，吴用和公孙胜做了3、4头领，随后晁盖想继续给兄弟们排座次，但被宋江给阻止了。
宋江找的理由是，等将来兄弟们都建些功劳了，然后按照功劳大小给弟兄们排座次。表面上看，宋江找的理由很客观公正，但实际上，宋江也暗藏私心，宋江想让自己的心腹花荣等人进入核心层，但让晁盖排座次，肯定是林冲位居花荣之前，而李逵、戴宗等人，他们的座次还要更靠后。
随后，宋江让弟兄们按照新旧头领分两边做了，旧头领是王伦的班底，以及晁盖带上来的兄弟，而花荣带上梁山的兄弟，因为早于宋江等人上梁山，所以也能算梁山的旧头领，但由于花荣是宋江的心腹，自然他选择坐在了新头领一边，这导致以晁盖为首的旧头领，只有9人，而以宋江为首的新头领，花荣带上梁山的兄弟，以及跟随宋江上梁山的兄弟，合起来多达27人。
这样一来，反而迟上梁山的宋江，成了梁山的多数派，而晁盖成了少数派，再加上之后上梁山的好汉，都会坐在新头领一边，这让以晁盖为首的旧头领，逐渐势弱。随后，吴用背叛了宋江，而公孙胜由于厌倦斗争，也主动离开了梁山，这更给了晁盖沉重一击，让他逐渐被宋江架空。
晁盖自然不愿就此认输，所以他展开了反击。宋江上梁山后，因为害怕朝廷会拿宋太公和其弟宋清威胁自己，也将宋和弟弟一起接上了梁山，但李逵看了，也吵嚷着要将自己的母亲接上梁山享福。
随后，在宋江和晁盖的同意下，李逵就下山接自己的母亲去了，但在途中，李逵由于粗心大意，他给母亲找水喝的过程中，他的母亲被老虎给吃了。但李逵没有接回母亲，却在回来途中，遇到了青眼虎李云和笑面虎朱富，并将两人带上了梁山，这让梁山的晁盖、宋江等人很高兴。
李云和朱富与宋江关系一般，所以他俩成了晁盖拉拢的对象，晁盖热情接待了李云、朱富，并在安排座次时，打破了宋江定下的规矩，让两人坐在了旧首领一边，将他们拉拢到自己阵营，开始对宋江展开反击。
晁盖的这个安排让宋江很不满，但由于李云和朱富能力一般，所以他们加入晁盖阵营，也不能改变晁盖和宋江在梁山的实力差距，但这对晁盖而言，也是一个良好的开端，他以后可以故伎重施，不断壮大自身力量。但宋江很快做出了反击，他让心腹戴宗下山，以看望公孙胜为由，又给自己拉来了石秀、杨雄等6位兄弟，而他们说明是投奔宋江的，这让宋江又赢了晁盖。
随后，晁盖又想出了一个办法反击宋江，就是带兵征战，然后建些功劳，提高自身在梁山的威望，然后和宋江一争高下。
宋江上梁山后，就抢着带兵征战，这让他和多数梁山兄弟，成了生死与共的战友，所以他们与宋江的感情，超过了和晁盖的感情。还有，宋江通过带兵作战，增强了自身在梁山的威望，还在作战过程中，招降了不少兄弟，如呼延灼、关胜等朝廷降将，就是宋江在作战过程中招降的，他们加入梁山后，自然也就成了宋江的支持者，所以晁盖想通过带兵作战的方式，对宋江展开反击。
但这却害死了晁盖。
曾头市抢了时迁要送给宋江的马匹后，晁盖为了和宋江抢功，主动提出要带兵去攻打曾头市，但由于晁盖在梁山的心腹少，再加上他作战经验不足，他带着谋士和武将少，准备不足，这让他和曾头市作战时，中了对方的圈套，最后被人不明不白的射杀了，他也就此输了和宋江的斗争。