汉朝汉宣帝时，有个很有名的人叫杨恽，他的父亲是汉昭帝时的丞相，母亲是史学家司马迁的女儿。他从小受到良好的教养，少年时在朝廷中的名气就很大，因为向汉宣帝举发大将霍光谋反，被封为平通侯。汉朝当时的社会贿赂风气很严重，有钱人用钱行贿，可以到处玩乐，没钱贿赂的人就要一年到头辛苦地工作。因此他大力革除了这些弊病，整顿了朝廷的不良风气，获得人们的称赞。他自认为功劳很高，有时目中无人，得罪了太仆戴长乐。 
有一次，杨恽听说匈奴的首领单于被人杀了，便说：“这是不明是非的君王，忠心的臣子提议的治国策略不用，却听信小人的谗言，杀害忠良，结果性命不保，国家灭亡。秦朝如果不是因为这样，也许现在还存在，而不会被汉朝代替。自古以来，各朝代的君王都是如此，喜欢听信小人的谗言，就像从同一个山丘里出产的貉，没有什么差别。”这话传到长乐的耳里，他连忙向汉宣帝报告，宣帝听到杨恽把自己和历代君王比作“一丘之貉”感到非常震怒，再加上长乐又说了许多杨恽对宣帝不满的坏话，因此就下令革去杨恽的官职。
后来“一丘之貉”用来比喻那些臭气相投、不务正业的人。
