铁云评点完了，忽然触动了灵感：“看来写小说并不难，何不我也写一部出来，让梦青拿去换钱，这是文人之间风雅的事，想必他会收下的。”于是搁下笔道：“梦青，读了你这几回小说，那些隐藏于嘻笑怒骂之中的微言大义，我都评点出来了，好让读者明白作者的用心。不知不觉我也有些手痒，打算也写一部小说出来，送给你去换稿费，这总可以了吧？”梦青呵呵笑道：“老哥真是个热心人，你写吧，倒不是为了几文稿费，而是以你平日的文笔，定能写成一部哄动上海的名著。登在《世界繁华报》上的《官场现形记》不就风靡了上海，成了茶余饭后的谈助吗？”铁云沉思了一会，说道：“自从‘拳乱’之后，国人愤恨政府腐败无能，出现了专写贪官污吏的谴责小说，李伯元写的《官场现形记》讽刺贪官，确实刻划得淋漓痛快，但人人都照他的路子写，就俗了。我若写，便不再写贪官而写清官。”“哈哈，人家骂贪官，你却捧清官，写了出来也是拍马小说，有人愿看吗？”“梦青，你被我的话弄糊涂了吧？我说的清官是以清廉为名而残害民众为实的那些昏官，如毓贤在山东曹州府的所作所为，号称清廉如水，不受一文贿赂，却以捕盗为名，用站笼杀害大批良民，那就不是清官而是酷吏了，我把他写成小说，一定新鲜得很，会没有人看吗？”“这倒是别开生面，不同凡俗，写来定很有趣。你写吧，先写几回让我送给李伯元去，他一定会欢迎的。”梦青走后，铁云兴致勃勃地坐到书案前，摊开稿笺，提笔略一沉吟，便如飞地落笔下来：话说山东曹州府与直隶、河南、江苏三省为界，边野荒村，颇有些四不管的地方，土瘠民贫，盗匪出没无常，历任府县为此坏了官的已有好几起了，因此合省官员提起曹州府视为畏途。那一年，偏是有一位监生出身的满洲旗人，姓玉名贤，走了山东抚台庄宫保的门路，奉委署理曹州知府
铁云写到这里搁下笔，望着窗外凝思了一会，忽然摇摇头，拿起稿笺揉作一团扔到字纸篓中去，暗暗好笑：“究竟不曾写过小说，看似省力，其实不简单，哪能写得这么直这么露！大概是对毓贤印象太深了，提笔就想到他。照这么写法，必然是两三回就换一个角色，走《儒林外史》和《官场现形记》的老路。不行，不行，不要炒人家的冷饭，总得有个连贯的故事。怎么写法好呢？”他站起身来，在屋中踱步沉思，望着墙上悬挂的仇十洲工笔重彩仕女画怔怔出神，脑中不断奔涌翻腾着数十年所见所闻，欢欢喜喜，奇奇怪怪，以及诸种悲愤不平之事，大清帝国没落了，北京街头亲王背尸，尚书担粪，胶州湾（青岛）、大连、旅顺、威海卫、广州湾一座座港湾的被侵占，黄河决口时灾民的哀号，曹州府的站笼，一幕幕走马灯似的在他眼前闪来晃去
当然也有京中大臣对他的诬害，特别是那个刚毅，还有新近发生的沈荩的惨死。不知怎么又想到了济南秀丽明媚的大明湖，和白妞、黑纽出神入化的梨花大鼓，北京的大刀王五，扬州和上海的太谷教聚会……够了，够了，要写的东西太多了，都是自己亲身目睹耳闻的，就让自己在书中扮演一个角色，把这些零零碎碎的片段串联起来吧。想到这里，犹如拔云雾而见青天，高兴地笑了起来。小说的内容和写法大致有了头绪了，自己是小说中的主角，总得另外取个名号，就取铁云的谐音，姓铁名英，又因他的书斋名为“抱残守缺斋”，就用它中间的“残”字，号补残，又称老残。那么老残如何串联全书呢？他重新踱到书桌前坐了下来，捧了头默默思索，想到自己一生东西南北飘游不定，古人称做官为游宦，做幕僚为游幕，把行止不定的羁旅生活用一个“游”字来形容，再恰当没有了。老残若串联全书，就不能固定在一个地方做官或作幕，也不能经商开铺子，想到自己懂医，江湖上有摇串铃行医的走方郎中，不如让老残扮演一个颇有学问和侠义之气的江湖郎中，就可以根据书中情节自由自在地把故事敷演下去。“对，这是个好主意！”铁云得意地抬起头来，取出一支雪茄烟，咬去烟头，点燃了，喷出一圈青烟，仿佛烟中出现了四个大字：《老残游记》，他笑了，多么自然的书名！正想接下去构思如何写开头的第一回，忽然罗振玉来访，带来了一份最新一期的《教育世界》，看到其中王国维撰写和翻译的文章，说道：“王国维是个人才，他到通州师范学堂教书，你少了一位得力助手了。”“这是张季直的面子，推托不了，本来邀我去主持校务，我抽身不开，让国维去教一年书就回来。”“这次从北京回来，在大达轮船码头外面看到张季直，他正有事，没有上去招呼
他的局面越办越大了，又办起了轮船公司，过去以为他是书生说大话，不料竟一一实现了。”振玉笑道：“你们不是打过赌吗？恐怕是你输了。这几年张季直以状元公弃官回乡，脚踏实地办实业，识见明远，成效卓著，人人佩服。通海一带种棉花的，纺纱织布的，几十万人靠他吃饭，地方上则靠他繁荣经济，兴办教育，南通因张謇而出了名，人家都称他张南通。人以地名，过去只有执政大臣才有这项殊荣，如曾湘乡，李合肥，张南皮，如今季直被誉为张南通，则成了在野的无冕宰相了。”铁云微微惆怅道：“大概是我输了，想不到张季子有如此大的魄力和远见，不能和他比了。我白辛苦了这些年，虽然为国家开矿筑路办了些事，也捞了些回佣，实则都不能算是我的事业。到头来一事无成，反不如季直办一样看得到一样，海内都知道大生一、二、三厂是张謇的，通海垦牧公司是张謇的，淮潍实业银行和面粉厂、铁冶厂都是张謇的，通州师范学堂也是张謇的，财也发了，名也有了。可是我呢，没有一样可算是我的，倡议的北京自来水公司、电车公司，上海五层楼商场、织布厂、航运公司、杭州铁机织绸厂，湖南炭素炼钢厂，都是空谈，没有一样能办成，看来我没有张季直办事业的韧性，好高鹜远，有头无尾，所以难以成事。”振玉道：“不然。季直全力办实业，办一样，成一样，走的是名利双收的大道。你则全力办洋务，以其余力办厂办公司，全凭兴趣办事，抓抓放放，哪能成事？况且又想走小路侥幸成事，其实得不偿失，到头来一事无成，这是你们二位最根本的不同处。你现在收买浦口地皮，也是一种侥幸心理在驱使，企望将来地皮涨价，坐享厚利，这哪是办实业？我劝你还是趁早歇手，不要再干这些投机取巧的事了。”铁云不悦道：“叔蕴，你又来扫我的兴了。”振玉笑道：“忠言逆耳，既然不愿听，就不谈了吧。”于是两人赏览了一会碑帖，振玉说起林枫在北京得到的《澄清堂帖》，已经以一万元的高价卖给一个日本古董商人了
铁云笑道：“好啊，这可是个好价钱！”振玉惋惜道：“可惜是在上海脱手的，不能不让日本中间商人赚一票，如果自己到日本去兜售，还可以卖高一些。”“想得好，以后有事去日本时，不妨带些古董去卖，不但路费花销赚回来了，还能捞它一票。”振玉吃过晚饭回寓去了。铁云这才凝神静气执笔写起了《老残游记》，于是白天应酬办事，夜间信笔写上数页，少的时候只写一页，稿纸用的是八行笺横过来，以蝇头行楷直写，每页十六行，约四百字，无非借题发挥，抒写忧国忧民之情和胸中的种种抱负和感慨，织成故事，缀为小说。当晚略看一遍，稍稍改动，次晨交给家中出孰先生汪剑农抄录清楚送给连梦青。梦青读了第一回中老残在山东登州府东门外蓬莱阁下的梦景，便知是影射当时中国的现状。蓬莱阁所见的帆船象征中国，船长二十三四丈是当时行省的数目，管舵四人意为军机大臣，“东边有一块，约有三丈长短，已经破坏，”喻东三省；船上扰乱情形，象征戊戌政变，高谈阔论者代表当时维新志士，被人骂为汉奸的热心救人者，大概是嘲讽铁云自己。当时看了一笑置之，虽觉文笔通俗有趣，并未见特别出色。及至读了第二回关于大明湖景色和白妞、黑妞说大鼓的精采描写，不觉为铁云罕见的才气所惊倒，然后又细细读了中间最出色的一段：王小玉（白妞）便启朱唇，发皓齿，唱了几句书儿。声音初不甚大，只觉入耳有说不出来的妙境：五脏六腑里，象熨斗熨过，无一处不伏帖；三万六千个毛孔，像吃了人参果，无一个毛孔不畅快。唱了十数句之后，渐渐的越唱越高，忽然拔了一个尖儿，象一线钢丝抛入天际，不禁暗暗叫绝。那知他于那极高的地方，尚能回环转折；几啭之后，又高一层，接连有三四叠，节节高起。恍如由傲来峰西面攀登泰山的景象：初看傲来峰削壁千仞，以为上与天通；及至翻到傲来峰顶，才见扇子崖更在傲来峰上；及至翻到扇子崖，又见南天门更在扇子崔上，愈翻愈险，愈险愈奇
那王小玉唱到极高的三四叠后，陡然一落，又极力骋其千回百折的精神，如一条飞蛇在黄山三十六峰半中腰里盘旋穿插，顷刻之间，周匝数遍
从此以后，愈唱愈低，愈低愈细，那声音渐渐的就听不见了。满园子的人都屏气凝神，不敢少动。约有两三分钟之久，仿佛有一点声音从地底下发出
这一出之后，忽又扬起，像放那东洋烟火，一个弹子上天，随化作千百道五色火光，纵横散乱。这一声飞起，即有无限声音俱来并发
那弹弦子的亦全用轮指，忽大忽小，同他那声音相和相合，有如花坞春晓，好鸟乱鸣
耳朵忙不过来，不晓得听那一声的为是。正在撩乱之际，忽听霍然一声，人弦俱寂。这时台下叫好之声，轰然雷动
梦青闭上眼，仿佛身在济南明湖居大鼓书场，听白妞黑妞的演唱，余音袅袅，犹在耳际回旋。不禁拍案狂喜道：“想不到铁云刻划人物景致如此高超细腻，感人如此之深，若是登了出来，一定哄动上海！”《老残游记》于当年八月在《绣像小说》上问世了，后来为了商务印书馆删去书中宣扬三元甲子预卜吉凶迷信和攻击“北拳南革”（义和拳和革命党）为妖魔鬼怪的第十一回，双方闹了意见，梦青停止售稿。两年后，铁云补写了第十一回，又续写了第十五至二十回，是为初集，光绪三十二年在《天津日日新闻》上重新连载。果然以他优美动人的文笔和揭露昏官酷吏近乎公案书的趣味盎然的故事，吸引了无数读者，跻身于中国文学名著之列
当时铁云用了“鸿都百炼生”的笔名，社会上不知作者是谁，直至铁云故世之后数年，才由刘氏后人正式宣布，从此刘鹗之名与《老残游记》并传于世，书中有些段落且选为学校语文教材。