桓玄既篡位，將改置直館，問左右：“虎賁中郎省，應在何處？”有人答曰：“無省。”當時殊忤旨。問：“何以知無？”答曰：“潘嶽秋興賦敘曰：‘余兼虎賁中郎將，寓直散騎之省。’玄咨嗟稱善。

　　謝公在東山，朝命屢降而不動。後出為桓宣武司馬，將發新亭，朝士鹹出瞻送。高靈時為中丞，亦往相祖。先時，多少飲酒，因倚如醉，戲曰：“卿屢違朝旨，高臥東山，諸人每相與言：‘安石不肯出，將如蒼生何？’今亦蒼生將如卿何？”謝笑而不答。

　　夏侯湛作周詩成，示潘安仁。安仁曰：“此非徒溫雅，乃別見孝悌之性。”潘因此遂作家風詩。