病逝。
黃初三年,孫權再次向曹魏稱臣。張遼奉命還屯雍丘,卻在此得病。曹丕遣侍中劉曄帶著太醫審視其疾,并令衛士們傳達張遼病況,為張遼問病的使者經常在路上互相遇見。
張遼的病一直沒有好,曹丕命人把他接到自己的行營,自己則車駕親臨,握著他的手,賜給他御衣,太官每天來送御膳。病情稍有好轉后,張遼便返回其屯軍之所駐軍,忠于職守。
此時,孫權再次背叛曹魏,曹丕派張遼乘舟,與曹休到海陵臨江駐防。孫權知張遼至此,甚為忌憚,對自己的將領發布命令:“張遼雖然抱病,但仍是勇不可當的,千萬要謹慎在意!”后來,張遼與諸將同破吳將呂范。但他的病情卻也日漸嚴重,最后終于在江都逝世,一代名將就此隕落。曹丕為之流涕,謚曰剛侯。其子張虎嗣任其爵。