晋咸宁四年（278年）八月，羊祜染病，请求入朝。
回到洛阳后，正逢晋景帝司马师的景献皇后羊徽瑜去世，羊徽瑜是羊祜的同母姐姐，羊祜十分悲痛，病情更加严重。
司马炎下诏，命他抱病入见，并让他乘坐辇车上殿，不必跪拜，备受优礼。
羊祜则再一次向司马炎陈述了伐吴计划，司马炎非常赞赏。
因为羊祜有病，面见司马炎很不方便，司马炎就派张华去羊祜那里，询问伐吴的谋划。
羊祜说："孙皓凶暴残酷，已经到了极点，如果现在行动，可以不战而取胜。假如孙皓不幸去世，吴人再立一个贤明的君主，那么我们虽然有百万之众，长江也不是我们可以窥伺的了，这样就将成为后患。"
张华非常赞同他的意见。
羊祜说："成就我的志向的人，就是你了。"
司马炎想让羊祜卧病在车上，总领各位将领。
羊祜说："夺取吴国我不一定要去，但是等平吴之后，就要劳累你圣明的思虑了。我不敢居于功绩与名声之间，但是如果事情结束，应当委派官员去东南地区镇抚时，希望你慎重地选择合适的人选。"
七月，司、冀、兖、豫、扬各州洪水泛滥，螟虫毁坏了庄稼。
司马炎下诏书询问主管人："用什么来帮助老百姓呢？"
度支尚书杜预上书，说："当前的水灾，以东南地区尤其严重。应当告诫兖、豫等各州，修理汉代遗留下来的池塘，用来蓄水，把多余的水引走。这样，饥饿的百姓就可以得到丰足的螺蚌鱼菜充饥，这是眼前就能得益的每日的供给。等到大水退了以后，淤泥的田地，每亩能收获几种粮食，这又是明年就能得到的好处。另外，朝廷的典牧官有四万五千多头种牛，这些牛不耕田，不驾车，甚至有的牛快要老死了，鼻子也不穿绳。可以把这些牛分给百姓使用，让这些牛赶上春天的耕种，等到粮食丰收以后，再向老百姓索取租税，这又是几年以后可以得到的好处。"
司马炎采纳了杜预的意见，老百姓以此得到了利益。
杜预任尚书七年，经他斟酌修正的各种政务数不胜数，当时的人称他为"杜武库"，意思是说他富有才干，像一个储藏武器的仓库，无所不有。
九月，晋朝廷任命何曾为太审，十五日，任命侍中、尚书令李胤为司徒。
吴帝孙皓心胸狭窄，非常嫉妒比他强的人。
张纮之孙、南郡太守张玄之子、广陵郡（今江苏扬州市）人张尚，曾任侍郎，后迁任侍中、中书令。
有一次，孙皓请张尚弹琴，张尚回答说："我不会弹琴。"
孙皓就下诏命令他学琴。
张尚在讲解琴学的精妙时，提到一个故事，说："春秋时代，晋平公要琴师师旷为他弹一曲《清角》，师旷回答说：'我王德行浅簿，还没有资格听我弹《清角》。'"
孙皓听了，心中很不高兴，认为张尚是在暗示自己德行不够。
后来，孙皓与张尚谈论《诗经》，问他："《诗经》说'泛彼柏舟'，那么只有柏木才能拿来造舟吗？"
张尚回答说："《诗经》还有句'桧楫松舟'，所以松木也能拿来造舟。"
孙皓又问："鸟类中大者只有鹤，小者只有雀吗？"
张尚回答说："大者还有秃鹙，小者还有鹪鹩。"
孙皓一向讨厌有人胜过自己，而张尚能言善辩，口才好，谈论起来往往出人意外，每每胜过孙皓，天长日久，孙皓便越来越怨恨张尚。
又有一次，孙皓问张尚："我喝酒可以和谁相比？"
张尚回答说："陛下有能饮百觚的酒量。"
古谚有"尧饮千钟，孔子百觚"之说，孙皓听了此话，勃然大怒，说："张尚明明知道孔丘没有作君主，还要拿我和孔丘相比。"
于是，下令把张尚抓了起来。
公卿以下官吏一百多人，在尚书岑昏的带领下，都到宫里去叩头，替张尚请罪，张尚才得以减罪免死，被送到建安去造船。
但不久后，孙皓还是把他杀了。
