劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　幼子常视毋诳，童子不衣裘裳。立必正方。不倾听。长者与之提携，则两手奉长者之手。负剑辟咡诏之，则掩口而对。

　　桓玄下都，羊孚時為兗州別駕，從京來詣門，箋雲：“自頃世故睽離，心事淪蕰。明公啟晨光於積晦，澄百流以壹源。”桓見箋，馳喚前，雲：“子道，子道，來何遲？”即用為記室參軍。孟昶為劉牢之主簿，詣門謝，見雲：“羊侯，羊侯，百口賴卿！”