若守小节，旦夕死亡；若举义兵，必得天位。众情已协，公意如何？”高祖曰：
“我儿诚有此计，既已定矣，可从之。”及义兵起，寂进宫女五百人，并上米九万斛、杂彩五万段、甲四十万领，以供军用。大将军府建，以寂为长史，赐爵闻喜县公。从至河东，屈突通拒守，攻之不下，三辅豪杰归义者日有千数。高祖将先定京师，议者恐通为后患，犹豫未决。寂进说曰：“今通据蒲关，若不先平，前有京城之守，后有屈突之援，此乃腹背受敌，败之道也。未若攻蒲州，下之而后入关。京师绝援，可不攻而定矣。”太宗曰：“不然。兵法尚权，权在于速。
宜乘机早渡，以骇其心。我若迟留，彼则生计。且关中群盗，所在屯结，未有定主，易以招怀，贼附兵强，何城不克？屈突通自守贼耳，不足为虞。若失入关之机，则事未可知矣。”高祖两从之，留兵围河东，而引军入关。及京师平，赐良田千顷、甲第一区、物四万段，转大丞相府长史，进封魏国公，食邑三千户。
及隋恭帝逊位，高祖固让不受，寂劝进，又不答。寂请见曰：“桀、纣之亡，亦各有子，未闻汤、武臣辅之，可为龟镜，无所疑也。寂之茅土、大位，皆受之于唐，陛下不为唐帝，臣当去官耳。”又陈符命十余事，高祖乃从之。寂出，命太常具礼仪，择吉日。高祖既受禅，谓寂曰：“使我至此，公之力也。”拜尚书右仆射，赐以服玩不可胜纪，仍诏尚食奉御，每日赐寂御膳。高祖视朝，必引与同坐，入阁则延之卧内，言无不从，呼为裴监而不名。当朝贵戚，亲礼莫与为比。
武德二年，刘武周将黄子英、宋金刚频寇太原，行军总管姜宝谊、李仲文相次陷没，高祖患之。寂自请行，因为晋州道行军总管，得以便宜从事。师次介休，而金刚据城以抗寂。寂保于度索原，营中乏水，贼断其涧路，由是危迫。欲移营就水，贼因犯之，师遂大溃，死散略尽。寂一日一夜驰至晋州。以东城镇俱没，金刚进逼绛州，寂抗表陈谢，高祖慰谕之，复令镇抚河东之地。寂性怯，无捍御之才，唯发使络绎，催督虞、秦二州居人，勒入城堡，焚其积聚。百姓惶骇，复思为乱。夏县人吕崇茂遂杀县令举兵反，引金刚为援，寂击之，复为崇茂所败。被征入朝，高祖数之曰：“义举之始，公有翼佐之勋，官爵亦极矣。前拒武周，兵势足以破敌，致此丧败，不独愧于朕乎？”以之属吏，寻释之，顾待弥重。