肃宗将大用勉，会李辅国宠任，意欲勉降礼于己。勉不为之屈，竟为所抑，出历汾州、虢州刺史，改京兆尹、检校右庶子、兼御史中丞、都畿观察使。寻兼河南尹，明年罢尹，以中丞归西台，又除江西观察使。贼帅陈庄连陷江西州县，偏将吕太一、武日升相继背叛，勉与诸道力战，悉攻平之。部人有父病，以蛊道为木偶人，署勉名位，瘗于其陇，或以告，曰：“为父禳灾，亦可矜也。”舍之。
大历二年，来朝，拜京兆尹、兼御史大夫，政尚简肃。宦官鱼朝恩为观军容使，仍知国子监事，恃宠含威，天宪在舌。前尹黎干写心候事，动必求媚，每朝恩入监，倾府人吏具数百人之饩以待之。及勉莅职旬月，朝恩入监，府吏先期有请，勉曰：“军容使判国子监事，勉候太学，军容宜厚具主礼。勉忝京尹，军容倘惠顾府廷，岂敢不具蔬馔。”朝恩闻而衔之，因不复至太学，勉亦寻受代。
四年，除广州刺史，兼岭南节度观察使。番禺贼帅冯崇道、桂州叛将朱济时等阻洞为乱，前后累岁，陷没十余州。勉至，遣将李观与容州刺史王翃亻并力招讨，悉斩之，五岭平。前后西域舶泛海至者岁才四五，勉性廉洁，舶来都不检阅，故末年至者四十余。在官累年，器用车服无增饰。及代归，至石门停舟，悉搜家人所贮南货犀象诸物，投之江中，耆老以为可继前朝宋璟、卢奂、李朝隐之徒。
人吏诣阙请立碑，代宗许之。十年，拜工部尚书。及滑亳永平军节度令狐彰卒，遗表举勉自代，因除之。在镇八年，以旧德清重，不严而理，东诸侯虽暴骜者，亦宗敬之。
十一年，汴宋留后田神玉卒，诏加勉汴州刺史、汴宋节度使。未行，汴州将李灵曜阻兵，北结田承嗣，承嗣使侄悦将锐兵戍之。诏勉与李忠臣、马燧等攻讨，大破之，悦仅以身免。灵曜北走，勉骑将杜如江擒之以献，代宗褒赏甚厚。既而李忠臣代镇汴州，而勉仍旧镇。忠臣遇下贪虐，明年为麾下所逐，诏复加勉汴宋节度使，移理汴州，余并如故。德宗嗣位，加检校吏部尚书，寻加平章事。建中元年，检校左仆射，充河南汴宋滑亳河阳等道都统，余如故。四年，李希烈反，以他盗为名，悉众来寇汴州。勉城守累月，救援莫至，谓其将曰：“希烈凶逆残酷，若与较力，必多杀无辜，吾不忍也。”遂潜师溃围，南奔宋州。诏以司徒平章事征。既至朝廷，素服请罪，优诏复其位，勉引过备位而已。无何，卢杞自新州员外司马除澧州刺史，给事中袁高以杞邪佞蠹政，贬未塞责，停诏执表，遂授澧州别驾。他日，上谓勉曰：“众人皆言卢杞奸邪，朕何不知！卿知其状乎？”