孙殿英，名魁元，一般人都叫他孙老殿。l889年正月，出生于河南永城县小马牧集孙家庄一个家境贫寒的农民家庭。孙殿英小时候出过天花，绰号叫孙麻子。他幼年丧父，其母溺爱娇惯，使之从小就养成了调皮捣蛋，不守规矩的性格。
孙殿英十多岁出外闯荡江湖，舞刀弄剑，打强欺弱，赌博，贩毒，跟着流氓地痞们鬼混。特别值得一提的是，他对麻将牌、天九牌等赌具有相当深细的研究。一副牌到手，便用各种织物擦拭牌的背面，然后观其纹理，辨其异同，再将它们的特征与牌的正面一一对应记牢。与人打牌时，他能察其牌背，便知牌里，由于知已知彼，几乎是百战百胜。
22岁那年的一次聚赌中，孙殿英因警察围捕而入狱。在狱中，孙殿英由于受尽凌辱，加上绿林人物焦文典的劝说，决心弃赌从戎，成为他人生旅途上的一次重大转折。
钱来得容易，便也舍得花，因此他在江湖上吃得开，黑道上的朋友很多，便做起来了贩卖毒品的买卖，钱越发赚得多。黑道上的头头脑脑，都得过他的许多好处，因此他贩卖毒品的路线一直畅通无阻。押运人员在路途中遇到麻烦，只要出示一张孙麻子的名片，便可过关。
孙殿英22岁那年的一次聚赌中因警察围捕而入狱。在狱中，孙殿英由于受尽凌辱，加上绿林人物焦文典的劝说，决心弃赌从戎，成为他人生旅途上的一次重大转折。
孙麻子就要打江山争天下了。
打江山得有队伍。但要纠合起一帮人来，也不是件容易的事，得用钱铺路。同时，他认为拉队伍仅仅有钱还不够，还需要有一种精神上的凝聚力，这样拉起来的队伍才能捏得拢，打不散。孙殿英小时听老人们讲古，知道历朝历代闹造反的，特别是闹成气候的，大都与传道传教或装神弄鬼的有点关系。他选中了当地的“会道门”，这是一个半军事化的宗教组织。
那时正值兵慌马乱，灾祸不断，老百姓看不到自己的活路，就把解除灾祸与痛苦的希望，寄托于飘渺虚幻的“彼岸”，即求救于菩萨与神灵。这样，形形色色的会道门及其他形式的宗教组织就出现了，有的还逐渐形成了较大的规模。孙殿英家乡的庙会道当时也有相当的规模，他决心好好地利用它。他18岁加入该道，不多久，凭着他那比别人转得快的脑袋瓜和兜里大把的钱，很快就在庙会道中站稳了脚跟。
庙会道创始于清末民初，祖师姓刘，自称是姜太公转世。他们的法咒是四句无韵无律、半通不通的诗：“上上姜尚转卯中，技授无蔽踵徽音，才育八八原有定，弓长苗裔白何心。”孙殿英根本不知道这咒语是什么意思，他只知道，就是必须彻底掌握整个庙会道，为己所用。
在争取做庙会道的“神定”接班人的过程中，孙殿英演了一场戏。那年秋天。孙麻子带领队伍在四乡打闹。一天夜里，他惊惊乍乍地叫醒随从，说自己刚才做了一个蹊跷的梦，梦见祖师指点他：“在房后不远处有一山，山后有庙，庙里藏有宝剑一柄，名‘太阿宝剑’，是姜太公赐给的，要赶快去取，如得此宝剑，就可以逢凶化吉，纵横天下。”
孙殿英讲完，随从们谁也不敢作声，都神秘地望着他。
见状，孙说：“梦只当是梦，咱们还是睡吧。”大伙儿睡下约过了一个时辰，孙殿英又风风火火地把随从们叫醒，说怪了，刚才又做了一梦，与前次的梦一模一样.随从中有脑子灵的说：“恭喜我师，必定是神仙降宝于你，不必犹豫快去取吧。”
孙殿英大喜，便率众人朝房后寻去。房后果然有山，山后果然有庙，庙内金光闪闪，进门一看，原来是宝剑放光。孙麻子连忙跪下，磕头如捣蒜，口中念念有词：“谢恩太公，谢恩祖师。神仙不远，弟子在下，请受我一拜。”磕拜完毕，捧剑而归。
从此，这“太阿宝剑”不仅成了他的护身之物，而且也成了他的镇山之宝。
孙殿英几次对人讲，他平常将剑挂在寝室之中，到了夜晚，有时它会放出耀眼的光芒来。如遇宝剑放光，便有喜事临门，大吉到来。他的随从们还说，神剑有时还铮铮作响，只要剑响，一两天内孙老殿定要杀人，灵得很。
遇有行动，每次孙殿英都要用黄绫子将剑包裹好，令亲信随从背负而行，命可丢，剑不能丢。一直到后来他当了大官，指挥数万人马的时候，也都随身带着这把剑。
靠这把剑，孙殿英做了这支队伍的名正言顺的头领。靠这把剑，还使他的队伍不断地扩大且在他几落之后，又能几起。
孙殿英耍手腕，以剑附神，但这“神剑”属平常之物，只不过人为的附上了一点“神气”罢了。当后来他在东陵挖出乾隆宝剑时，反复抚摸，几乎一夜未眠。拿出“神剑”来与之比较，简直一个是土，一个是金。这等宝剑他哪能舍得送人呢？即使是蒋介石当时真的找他要这把宝剑，他也不会轻易给的，况且在孙麻子的眼里，蒋介石的分量还没重到使他顶礼膜拜的程度：他蒋介石算老几，不也就是个帮头吗？我孙老殿也还想着要做做中国的皇帝呢！
1922年，北洋军阀吴佩孚在洛阳时，曾严令缉捕孙殿英这个毒贩。孙在洛阳不能立足，乃逃往陕西躲避。他在贩运毒品时结识了河南陆军第一混成团团长兼豫西镇守使丁香玲部的官佐，因而在镇守使署混得了一个副官职位，不久升为机关枪连连长，居然成了一名军官。以后利用第二次直奉战争期间驻豫西军开赴前线之机，率部哗变，搜罗禹县、临汝县等县土匪和庙会道徒，一时声势颇大。
1925年春，孙殿英和其他匪首被收编，孙任第五混成旅旅长。后又改投国民第三军副军长兼第一师长叶荃部下任旅长，旋复升师长。土匪出身的山东军事督办张宗昌与孙殿英见面后，十分赏识他，就委任其为第五师师长。在张宗昌的羽翼下，孙殿英部逐渐发展成为一个流寇式的军事小集团。
l926年春，张宗昌与李景林合向国民军反攻，孙殿英率部袭击了国民军第三军所属徐永昌部，为张立下了显赫战功，张宗昌即将孙殿英部改编为直鲁联军第三十五师，后又扩大编制，以孙为军长。在直鲁联军节节败退之际，善于见风使舵的孙殿英更换旗帜，投靠时任国民革命军第六军团总指挥的徐源泉，孙殿英任第十二军军长，打起青天白日的旗帜。