常衮登第后由太子正字授补阙起居郎,永泰元年(765年)授中书舍人。大历十二年(777年)拜相,杨绾病故后,独揽朝政。以文辞出众而又登科第为用人标准,堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后,被贬为河南少尹,又贬为潮州刺史。不久为福建观察使。常衮注重教育,增设乡校,亲自讲授,闽地文风为之一振。建中四年(785年)死于任上。享年五十五岁,追赠为尚书左仆射。
一更无事坐灵台,塞兑垂帘八面开。开,清风入户来。调真息,冲和气自回。
二更天静玩真空,八极无尘月正中。中,西来一意通。金炉内,霞光透鼎红。
三更鸡叫一阳生,月落寒潭斗柄横。横,泥斗海底惊。三车转,黄河水倒行。
四更北斗西南看,火运周天透玉关。关,龙吟虎啸间。神丹结,通身彻骨寒。
五更五气总朝元,种出黄金七朵莲。莲,花开带露鲜。天门破,神光照大千。