吳用找到宋江這個領導者，視其為明主，兩人之間的合作始于三打祝家莊，其後雙方合作無間。宋江的領導方式能讓軍師吳用發揮軍事才華、放手予吳用決定梁山大部份的事務，而宋江的領導才能也被吳用值得敬佩。吳用更在宋江墓前飲下毒酒，誓死相隨，盡顯了對宋江的忠誠和感情。但吳用和宋江的關係真的像外界般看到的那麼好？彼此之間有沒有存在分歧及矛盾的地方？
宋江在三打祝家莊，他是信心十足地帶領隊伍攻向祝家莊，並說到：「若是宋江打不下祝家莊，救不出這幾個兄弟來，情願自死於此地，也無面目回去見得晁蓋哥哥。」即使梁山擁有強大的軍團，但祝家莊並沒有被一擊即潰，反而更佔上風，結果前二次攻打祝家莊宋江都未能成功。最後在第三次攻打祝家莊時，幸好吳用能審時度勢，施展他的計謀，與宋江裡應外合，終於拆散敵人一直攻守的聯盟，取得決定性的勝利。只是宋江卻把這次戰果歸於自己的名下，吳用只得在旁邊忍氣吞聲，也許雙方之間已在此時埋下了矛盾的伏線。
在對待官兵和自家兄弟上，宋江明顯心偏朝廷，吳用則相反。宋江身為塞主，每次俘獲朝廷官員，總要斥退左右，親解其縛，連聲稱罪，對呼延灼、關勝、索超，乃至義軍死對頭高俅，莫不知此。不只視為上賓，有時還給俘虜穿上錦袍，硬推上頭把交椅，讓作山寨之主，直弄得降將手足無措。並且他對待梁山英雄經常喝罵，張口“這廝”，閉口“那廝”，動輒就要割舌頭，推出斬首。相反，吳用從不輕信降將，也從不輕易用降將，並且總是為眾英雄辯白，勸諫宋江。可見，宋江身在梁山心在朝廷，把
“忠”放在 “義”之前，和吳用的重 “義”有一定的分歧。
其後，在招安的事件中，也可以自到二人之間的分歧。吳用和宋江雖然都是知識份子，但是在處理問題的角度上，其實差距很大的。宋江對於梁山招安之後的問題考慮得很籠統，他迫不及待的想招安，不想抵抗。然而細節上，吳用想得更為冷靜，他之所以阻止，是因為他不甘於這樣投降，展示不出梁山的實力。結果就是朝廷在招安之後必定會進一步分化梁山，那樣投降，朝廷會怎樣安排他們呢？那就分散，分散後，他們馬上就被湮沒了。而宋江是可以說是個忠義的人，如果他是有條件地接受招安，在他看便會違反「忠君」這個概念。結果兩人發生了激烈的爭論，最後，吳用亦只得聽從宋江的決定，無奈地接受招安。
雖然，吳用和宋江的關係並不像外界般看到的那麼好，彼此之間存有分歧及矛盾的地方。但吳用最終也在宋江墓前飲下毒酒，誓死相隨，顯示了他對宋江的忠誠和感情，以悲壯之舉報答、成全宋江之“義”。
