睿宗览而善之，令中书省重详议，擢拜监察御史。开元中，累迁太子右庶子。
出为郑州刺史，未行病卒，赠兵部侍郎。
崔义玄，贝州武城人也。大业末，往依李密，初不见用。义玄见群鼠渡洛，又槊刃有花文，谓所亲曰：“此王敦败亡之兆也。”时黄君汉守据柏崖，义玄往说之曰：“见机而作，不俟终日。今群盗蜂起，九州幅裂，神器所归，必在有德。
唐公据有秦京，名应符箓，此真主也。足下孤城独立，宜遵寇恂、窦融之策，及时归诚，以取封侯也。”君汉然之，即与义玄归国。拜怀州总管府司马。世充遣将高毗侵掠河内，义玄击败之，多下城堡。君汉将分子女金帛与之，义玄皆拒而不受，以功封清丘县公。后从太宗讨世充，屡献筹策，太宗颇纳用之。东都平，转隰州都督府长史。贞观初，历左司郎中，兼韩王府长史，行州府事。与友人孟神庆虽志好不同，各以介直匡正府幕，王并委任之。永徽初，累迁婺州刺史。属睦州女子陈硕真举兵反，遣其党童文宝领徒四千人掩袭婺州。义玄将督军拒战，时百姓讹言硕真尝升天，犯其兵马者无不灭门，众皆凶惧。司功参军崔玄籍言于义玄曰：“起兵仗顺，犹且不成，此乃妖诳，岂能得久？”义玄以为然，因命玄籍为先锋，义玄率兵继进，至下淮戌，擒其间谍二十余人。夜有流星坠贼营，义玄曰：“此贼灭之征也。”诘朝进击，身先士卒，左右以盾蔽箭，义玄曰：“刺史尚欲避箭，谁肯致死？”由是士卒戮力，斩首数百级，余悉许其归首。进兵至睦州界，归降万计。及硕真平，义玄以功拜御史大夫。义玄少爱章句之学，《五经》大义，先儒所疑及音韵不明者，兼采众家，皆为解释，傍引证据，各有条疏。
至是，高宗令义玄讨论《五经》正义，与诸博士等详定是非，事竟不就。高宗之立皇后武氏，义玄协赞其谋。及长孙无忌等得罪，皆义玄承中旨绳之。显庆元年，出为蒲州刺史。寻卒，年七十一，赠幽州都督，谥曰贞。则天时思其功，重赠扬州大都督，赐其家实封二百户。子神基袭爵。长寿中，为司宾卿、同凤阁鸾台平章事。为相月余，为酷吏所陷，减死配流。后渐录用，中宗初，为大理卿。神基弟神庆。