太康元年（280年）正月，杜预陈兵于江陵外。江陵城防坚固，易守难攻。杜预不想在这里消耗时间和兵力，对它只是围而不歼。在切断了江陵和外部的联系之后，他立即调动参军樊显、尹林、邓圭、襄阳太守周奇等率一部分兵力沿江而上，向西进攻，夺取沿岸城池。一个漆黑的夜晚，杜预又派出牙门管定、周旨、伍巢等领锐卒八百人作为奇兵，偷袭江南的乐乡。这支部队在夜幕的掩护之下，神不知鬼不觉地渡过长江。他们按照主帅的计谋，一方面在山上到处点火，树立旗帜，虚张声势；一方面分兵袭击乐乡附近的各个要害地区。这样一来，把乐乡城里的吴军都督孙歆吓得坐卧不安，他在给吴都督伍延的信中说：“从北方来的各军，真像飞过长江一样。”各处的吴军也人心惶惶，不敢随意行动；有吴国百姓上万口前来投降。接着，杜预的这支人马埋伏在乐乡城外，等待时机攻城。正巧，这时候有一支吴军从江岸返回乐乡；杜预的将士就乔装打扮，混杂在吴军的队伍里溜进城里，活捉了孙歆。杜预设计巧取乐乡，使部下将士十分钦佩。他们传诵歌谣说：“以计代战一当万（主帅用计谋打仗，真是以一当万啊）！
二月，在扫清江陵的外围之后，杜预部进逼江陵。伍延假称请降，而仍在城墙上列兵防守，杜预攻下了江陵城，占据荆州。至此，长江上游平定，从沅湘以南直至交州、广州一带，孙吴的州郡都望风归顺，奉送印绶。杜预安抚降者，又借兵威，迁徙将士及屯戍人家以充实江北。南方州郡故地都安置了地方官，荆州肃然，使得投降的吴人有归家之感。
接着，杜预挥师东进，配合其他地区各路晋军攻打孙吴的都城建邺。有人对连续进军产生了畏难情绪，在一次军事会议上提出，天气转热，雨水增多，北方士兵不服水土容易感染疾疫，应该等到冬天再继续进军。杜预不以为然，分析整个战争形势说：“现在我们接连取胜，士气大振，正需要一鼓作气。打仗好比劈竹子，只要劈开几节，底下就会迎刃而解了。”杜预的意见终于为大家所接受，以后战争的形势正像杜预所预言的那样发展着。
整个灭吴一役，杜预功勋卓着，共斩杀、俘虏孙吴都督、监军一类的高级官吏十四人，牙门、郡守一类的中级官吏多达一百二十人。
西晋灭亡孙吴的战争结束了汉末三国以来分裂割据的状态，使中国重归一统。杜预在这次战争中显示了卓越的军事才能，功绩是非常突出的。
西晋灭吴后，杜预率师凯旋而归，因功进封当阳县侯，增加食邑至九千六百户，其子杜耽也受封为亭侯，食邑千户；更赐杜预八千匹绢，让他继续镇守襄阳。杜预回镇以后，屡次向司马炎陈述自己的家族世代为吏，认为武功不是自己擅长的，请求退职。但不被朝廷允许。
战后，杜预反对天下安定就要废弃军备的观点，他认为“天下虽安，忘战必危”。在任职期间，始终没有放松部队的训练。杜预把荆州军队的防卫重点集中到了对付当地少数民族方面。
在荆州，杜预兴建了一些水利工程。其中，在整修前代河渠的基础上，他引滍水、淯水两江之水入田，使一万余顷农田受益。为了使屯田和普通民田均能得到灌溉，杜预又把水渠按照地段标上界石。杜预开凿了从扬口到巴陵的运河一万余里，使夏水和沅、湘两水直接沟通，既解决了长江的排洪问题，又改善了荆州南北间的漕运。
杜预的政绩，受到了当地人民的赞扬，百姓称他为“杜父”，并歌颂说：“后世无叛由杜翁，孰识智名与勇功。”
后来，杜预被征调到中央政府任司隶校尉，加位特进。太康五年闰十二月（285年初），他在途中行至邓县时逝世，终年六十三岁，司马炎闻讯甚为哀悼，追赠他为征南大将军、开府仪同三司，谥号“成”。
临终之前，杜预先留下遗言说：
上古时人不合葬，他们明白死生之道，生则有识，死则全无。中古圣人改为合葬，大概是认为分葬、合葬本无定则，主要是为了示教于生者。自此以后，大人、君子或合葬或分葬，人生的事还没有弄清楚，哪能知道死后的事，所以各以自己的愿望行事。我以前做台郎，曾因公事经过密县的邢山。山上有一坟墓，我问农夫，说是郑大夫祭仲的墓，有人说是子产的墓，于是率领随从人员去祭奠参观。坟墓造在山顶上，四望无遮无碍，山脉南北走向而墓斜向东北，朝新郑县城，意为不忘本。墓的隧道只堵塞后面而前面敞开，不填土，告诉人们里面没有珍宝，不需要重隔深埋。山上多美石却不取用，不过是收集洧水边的自然卵石砌墓，以不劳工巧为贵，且此石于世上无用。君子推崇这种葬法有节俭之情，小人无利可取，所以经历千载而完整无损，这是由俭得来的。我去年春天入朝，因郭氏丧亡，按陪陵的旧制，自己上表在洛阳东首阳山之南营造将来的墓穴。所得的地盘中有一小山，其高显然比不上邢山，但是东仰二陵，西望宫阙，南观伊洛，北望夷叔，旷然远望，心情安适。所以栽树开道，作好建墓准备。到时候都用洛水圆石，开隧道向南，规模样式仿效郑大夫，想以俭约来保全坟墓，棺木、器皿、衣物，都要与此相称。
到杜预离开人世后，其子孙就按遗嘱安葬了他。
贞观二十一年（647年），唐太宗诏令历代先贤先儒二十二人配享孔子，其中就包括杜预。建中三年（782年），礼仪使颜真卿向唐德宗建议，追封古代名将六十四人，并为他们设庙享奠，当中就包括杜预。及至宣和五年（1123年），宋室依照唐代惯例，为古代名将设庙，七十二位名将中亦包括杜预。在北宋年间成书的《十七史百将传》中，杜预亦位列其中。