常衮登第后由太子正字授补阙起居郎，永泰元年（765年）授中书舍人。大历十二年（777年）拜相，杨绾病故后，独揽朝政。以文辞出众而又登科第为用人标准，堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后，被贬为河南少尹，又贬为潮州刺史。不久为福建观察使。常衮注重教育，增设乡校，亲自讲授，闽地文风为之一振。建中四年（785年）死于任上。享年五十五岁，追赠为尚书左仆射。
鸳行旧俦侣。问底事、迟回西州西处。闲居久如许。想邻翁对饮，诗人联句。夤缘曾遇。过高轩、相逢喜舞。正菊天、景物澄鲜，切莫趣归言去。
看取。星扉月户。雾阁云窗，非公孰住。从容笑语。人生易别难聚。恨分违有日，留连无计，满目离愁忍觑。若他时、鱼雁南来，把书寄与。
桂树生高崖，春风吹拂之。崖桂自不芳，春风本无私。
非疾桃李艳，由来各有时。暖雨都城陌，晴日倡家蹊。
雕鞍逐绣毂，行乐竞繁滋。玩赏朝不食，歌舞夜忘疲。
秋霜摇落尽，芳芬谁复知。
山城多鸣鸟，有鸟集豕背。豕走鸟不飞，閒自啄其喙。
禽兽有蠢灵，所见非所在。偶集我眼中，怪事书所未。
诗酒会消寒，阅微启精邃。肴馔列羽虫，雉鸽推群类。
野鹜落凫飞，天鹅寂雁唳。羽翼竞丰盈，鸡鸭薄滋味。
嗟此握爪拳，何甘投鼎鼐。失足由网罗，大半为食饵。
吾观高冈凤，一举烟云翅。又观空山鹤，长鸣风雨晦。
岂不值饥渴，饮啄得素志。誓不争食栖，适性行无碍。
同席解鸟语，雅人必深致。莺鸣求友声，非欲弄清脆。
鹦鹉学人言，从俗求妩媚。声同应实殊，浮沈在聋愦。
苟无真知音，鲜勿割所爱。不见桀之犬，可向陶尧吠。