西陵救援失利后，羊祜总结教训认识到：吴国的国势虽已衰退，但仍有一定的实力，特别是荆州尚有陆抗这样的优秀将领主持军事，平吴战争不宜操之过急。于是，他采取军事蚕食和提倡信义的两面策略，以积蓄实力，瓦解对方，寻找灭吴的合适时机。

    羊祜轻裘缓带像（清·马贻《百将图传》）
    鉴于历史上孟献子经营武牢而郑人畏惧，晏弱筑城东阳而莱子降服的经验，羊祜挥兵挺进，占据了荆州以东的战略要地，先后建立五座城池。并以此为依托，占据肥沃土地，夺取吴人资财。于是，石城以西均晋国占有，吴人来降者源源不绝。 羊祜于是实施怀柔、攻心之计。在荆州边界，羊祜对吴国的百姓与军队讲究信义，每次和吴人交战，羊祜都预先与对方商定交战的时间，从不搞突然袭击。对于主张偷袭的部将，羊祜用酒将他们灌醉，不许他们再说。有部下在边界抓到吴军两位将领的孩子。羊祜知道后，马上命令将孩子送回。后来，吴将夏详、邵颉等前来归降，那两位少年的父亲也率其部属一起来降。吴将陈尚、潘景进犯，羊祜将二人追杀，然后，嘉赏他们死节而厚礼殡殓。两家子弟前来迎丧，羊祜以礼送还。吴将邓香进犯夏口，羊祜悬赏将他活捉，抓来后，又把他放回。邓香感恩，率其部属归降。羊祜的部队行军路过吴国边境，收割田里稻谷以充军粮，但每次都要根据收割数量用绢偿还。打猎的时候，羊祜约束部下，不许超越边界线。如有禽兽先被吴国人所伤而后被晋兵获得，他都送还对方。羊祜这些作法，使吴人心悦诚服，十分尊重他，不称呼他的名字，只称“羊公”。

    对于羊祜的这些作法，陆抗心中很清楚，所以常告诫将士们说：“彼专为德，我专为暴，是不战而自服也。各保分界而已，无求细利”。因此，在很长的一段时间里，晋吴两国的荆州边线处于和平状态。羊祜与陆抗对垒，双方常有使者往还。陆抗称赞羊祜的德行度量，“虽乐毅、诸葛孔明不能过也”。一次陆抗生病，向羊祜求药，羊祜马上派人把药送过来，并说：“这是我最近自己配制的药，还未服，听说您病了，就先送给您吃。”吴将怕其中有诈，劝陆抗勿服，陆抗不疑，并说：“羊祜岂鸩人者”！仰而服下。当时人都说，这可能是春秋时华元、子反重见了。 吴主孙皓听到陆抗在边境的做法，很不理解；就派人斥责他。陆抗回答：“一邑一乡，不可以无信义，况大国乎！臣不如此，正是彰其德，于祜无伤也”。孙皓无言以对。