晁蓋臨死之前，給宋江留下遺囑“賢弟保重。若哪個捉得射死我的，便叫他做梁山泊主！”宋江見晁蓋死了，如喪考妣一般，哭得發昏。
這個遺囑，非常奇怪。是誰射死晁蓋的？箭上明明寫著史文恭的名字，但是晁蓋偏偏不說，而是強調“射死他的”，足見晁蓋對是不是史文恭射的表示懷疑。晁蓋死后，理應二把手宋江繼位，晁蓋卻將它讓位給捉得射死他的人，這明顯是對宋江的不信任嘛。如果按照遺囑抓落實，憑宋江的武藝，當上一把手的概率幾乎為零。所以，宋江聽后其實很惱火。
再看吳用的表現，他勸宋江“哥哥且省煩惱；生死人之分定，何故痛傷？且請理會大事”。意思是說，人的命，天注定，沒有必要為晁蓋之死這點小事而悲傷。您還是趕快應對如何破除遺囑死結的大事吧。
當吳用、林沖勸宋江當一把手時，宋江把晁蓋遺囑篡改為“如有捉得史文恭者，便立為梁山泊主”，把晁蓋之死全都推給了毫不知情的史文恭。宋江又解釋“又不曾報得仇，雪得恨，如何便居得此位？”，分析這句話，明顯違背了晁蓋的遺囑，即使報仇雪恨了，也須捉住射死晁蓋的人當老大，哪里輪得著宋江自言自語：如何便居得此位？
吳用見宋江裝著抹不開面子，就繼續勸。宋江擔心再虛情假意推讓一番，真把一把手的位子推丟了。于是來個借坡下驢，說“軍師言之極當；今日小可權當此位。”就這樣宋江成了“代一把手”。
如何去掉這個“代”字，宋江為此傷透了腦筋。
他先把聚義廳改為忠義堂，雖然有兩字之差，意義卻大大改變。聚義廳倡導綠林精神，而忠義堂提倡忠君思想。姓資姓社，一目了然。宋江此舉顯然要徹底擺脫晁蓋的陰影，開創煥然一新的新時代。
然后，宋江假模假樣地動議攻打曾頭市，表示自己沒有把晁蓋遺囑當兒戲。吳用提醒居喪期間不可舉兵，其實吳用的用意很明顯：現在盲目攻打曾頭市，史文恭萬一被別人捉住了，你宋江還做不做老大了！
于是苦思冥想中，他們找到了玉麒麟盧俊義這個“棋子”。宋江嘴上說：盧俊義武藝高，他入伙就不怕官兵來圍剿，其實他內心在盤算如何利用盧俊義解開晁蓋遺囑的死結。盧俊義雖然武藝超群，但他只是一個民間武林高手，排兵布陣沖鋒陷陣方面，絕對趕不上關勝、林沖、呼延灼這些職業軍人的水平。反圍剿又不是打擂，盧俊義一個人豈能抵擋住官兵？很顯然，宋江、吳用的想法是：緊急“空降”一個二哥，造成二哥與自己爭鋒的假象。假如盧俊義捉住史文恭，初來乍到的他難以服眾，再加上武松和李逵等小兄弟起哄，盧俊義絕對不敢當一把手。而其他人捉住史文恭后，憑他們的威信和影響力，根本扳不過宋江。宋江雖然武藝一般，但是二哥盧俊義的武藝比較高，高手尚且排在宋江之后，其他人更不必說了。這樣給人一種印象：老大的位子并不僅僅是靠武力拼來的。任何人捉住史文恭，都不會對宋江的地位構成威脅，所以，宋江才下決心費功夫拉盧俊義入伙。
“只為一人歸水滸，致令百姓受兵戈”。宋江派心腹吳用、李逵親自到大名府游說，結果害得大名府無端半城損毀，死傷眾多，害得盧俊義家破人亡。
盧俊義入伙后，宋江發起曾頭市之戰。在作戰部隊配置上，吳用怕盧俊義真的捉住史文恭，就特意安排他帶領小股戰略預備隊，在二十里外的樹林里一邊“稍息”去。沒想到人算不如天算，史文恭竟然撞破宋江的包圍圈，意外被盧俊義生擒活捉。按照遺囑，盧俊義應該當老大。于是宋江假惺惺地推薦盧俊義，說他三個方面比自己強：一是盧俊義長得相貌堂堂，二是盧俊義出身富豪，三是盧俊義武藝高強。宋江說的不無道理，但是當老大不是選美，不是看根正苗紅的出身，更不是拳腳相加的打擂，故此他說的幾個理由只是借口而已。
吳用怕盧俊義當真，就急忙說“兄長為尊，盧員外為次……”，不但如此，吳用把眼視眾人，暗示大家營造氛圍。果然宋江的嫡系李逵和武松看懂了吳用的眼色，跳了出來，接著元老劉唐倚老賣老說些風涼話。魯智深大叫道：“若還兄長要這許多禮數，灑家們各自撒開”。宋江見此，怕盧俊義下不了臺，就說咱們可以退一步講“看天意是如何？”，其實這都是宋江早就預料的場面，他急忙說出要走的下一步棋：抓鬮攻城，再做決定。
梁山兵分兩路，攻打東平府和東昌府，宋江與盧俊義都帶領同樣多的兵馬，這看似公平，卻隱藏著陰謀詭計。且看盧俊義的麾下，竟然有吳用、公孫勝兩位。明眼人一看就知道，他們不是來幫忙的，而是來搗亂的。
盧俊義遭遇了飛石殺手張清，連敗兩陣，嚇得“一連十日，不出廝殺”。而此時吳用、公孫勝既不出主意，也不下力氣。吳用見宋江先拿下東平府，盧俊義敗局已定，才動員宋江前來增援。在公孫勝的道法下，梁山人馬活捉張清，攻陷東昌府。抓鬮定輸贏已成定局，盧俊義輸得心服口服。
就這樣，宋江順利去掉稱謂前面的“代”字，堂而皇之地當上了梁山老大。
