劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　为人臣之礼：不显谏。三谏而不听，则逃之。

　　王夷甫父乂為平北將軍，有公事，使行人論不得。時夷甫在京師，命駕見仆射羊祜、尚書山濤。夷甫時總角，姿才秀異，敘致既快，事加有理，濤甚奇之。既退，看之不輟，乃嘆曰：“生兒不當如王夷甫邪？”羊祜曰：“亂天下者，必此子也！”