常衮登第后由太子正字授补阙起居郎,永泰元年(765年)授中书舍人。大历十二年(777年)拜相,杨绾病故后,独揽朝政。以文辞出众而又登科第为用人标准,堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后,被贬为河南少尹,又贬为潮州刺史。不久为福建观察使。常衮注重教育,增设乡校,亲自讲授,闽地文风为之一振。建中四年(785年)死于任上。享年五十五岁,追赠为尚书左仆射。
男儿三十不将相,看花长醉珠江舫。红牙小拍鹤南飞,选词亲付珠娘唱。
但作鸳鸯便是仙,满江花气养韶年。玉台仙眷工新咏,寿郎诗写红瑶编。
吹彻琼箫弹锦瑟,来共荷花祝生日。荷花世界水云凉,长生定许花神匹。
百年三万六千觞,此是人间行乐场。群仙酣宴天公醉,休向通明奏绿章。