至元七年(1270年),廉希宪患病,忽必烈派遣医生三人诊视,医生说须用砂糖做药引,家人到处寻求,阿合马送去二斤,廉希宪拒收,还说道:“即使此物果能治好病,我也绝不靠奸人的赠送来救自己的命。”忽必烈听说后,遣人送去砂糖。
至元十一年(1274年),廉希宪被任命为北京行省平章政事。
至元十二年(1275年),忽必烈急召廉希宪回京,命他抚治荆南,并有授三品以下官职之权。廉希宪带病赴任,右丞阿里海牙率领属官于江陵迎接,荆人大为惊骇。
至元十四年(1277年),廉希宪因病久不愈,被召还京都,江陵人民哭泣挽留。他离开后,江陵人画像建祠,以为纪念。五月,廉希宪回到上都,他两袖清风,离任时随身之物只有琴、书而已。
至元十六年(1279年)春,廉希宪复受命领中书事,但病情日重,太子真金前来探望,并问为政之道,廉希宪说:“人君治国,最重要的是用人得当,用君子则治,用小人则乱。臣今病势加剧,听天由命而已,而十分担心的是当前大奸专政,小人附和,误国害民,这才是国之大病,希望殿下力劝皇上屏除奸臣,否则国病日重,无可救药。”