桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。

　　儒有澡身而浴德，陈言而伏，静而正之，上弗知也；粗而翘之，又不急为也；不临深而为高，不加少而为多；世治不轻，世乱不沮；同弗与，异弗非也。其特立独行有如此者。

　　卞望之雲：“郗公體中有三反：方於事上，好下佞己，壹反。治身清貞，大脩計校，二反。自好讀書，憎人學問，三反。”