赵佶又采纳林灵素的建议，新建宝菉宫、 太乙西宫、建仁济亭施符水，开神霄宝菉坛。赵佶还诏命天下的天宁观改为神霄玉清万寿宫，没有道观的用寺庙代替。并设长生大帝君、青华大帝君像。
京城神霄宫建成后，赵佶率蔡京和群臣庆贺。早斋罢，赵佶引百官游观，忽然吟出一上联：宣德五门来万国。蔡京等沉思许久，不能回答。赵佶就问林灵素道：“你能对否?”林灵素应声而答道：“神霄一府总诸天。”赵佶大喜。
林灵素遵赵佶的圣旨修道书，改正诸家醮仪，校对《仇丹经灵篇》，删修注解。每遇初七日，他就升座，座下都是宰执百官、三衙亲王中贵，观看的人众多，他讲说《三洞道经》。京城士民由此开始信奉道教，林灵素出尽风头，蔡京等失尽面子。
蔡京根本不被林灵素放在眼里。比蔡京更有来头的佛祖、菩萨，林灵素也没当回事。他获得赵佶的信任后，便一力撺掇赵佶灭掉佛教。道教教主赵佶在他的怂恿之下，悍然决定灭佛，下令将佛教纳入道教，佛祖改称为天尊，罗汉、菩萨改称为大士。和尚改称为德士，尼姑改称为女德。佛教不能作为一个独立宗教存在，传播了近千年的佛教，差一点因为林灵素泄愤而亡。
林灵素在得势之时，门徒达到上万人，他是道教神霄派的创教祖师之一，被赵佶称为聪明神仙。
赵佶曾经对林灵素说道：“朕昔日到青华帝君处，获言改除魔髡，这是何意？”林灵素于是说是佛教害道，当今虽不可灭，合当
改正。此事却惹怒了皇太子，于是上殿和林灵素争论，皇太子命令胡僧十二人、五台山僧人道坚等二人与林灵素斗法。结果僧人大败，情愿戴冠执简。太子乞求赵佶饶恕僧人，赵佶下旨释放胡僧。但道坚和尚是中国人，把其押送到开封府，刺面发配到开宝寺。
第二年，京师大旱。 赵佶命林灵素祈雨，没有应验。蔡京趁机向皇帝进言治其罪，赵佶秘密告诉林灵素道：“朕诸事都听从卿的建议，你须祈求三日大雨，用来堵塞大臣对你的诽谤。”
林灵素急召建昌军南丰道士王文卿，他是神霄甲子之神兼雨部。王文卿到后，执简敕水，果然下雨三日。赵佶赏赐王文卿，敕加凝神殿侍宸。林灵素则益受赵佶眷顾，权势日益强大。
通真宫内有一室，是林灵素入静之所，常年封锁，即使赵佶来了也不让进去。蔡京派遣人暗中探访，据说室内有黄罗大帐、金龙朱红椅桌、金龙香炉等物。蔡京上奏赵佶，请赵佶亲自去察看。赵佶临幸通真宫，带蔡京一同到达，命林灵素打开锁，进入室内。里面却是粉壁明窗，椅桌二只而已，别无他物。蔡京恐慌，急忙伏地谢罪。林灵素明白这是蔡京在处心积虑构陷自己。
宣和元年三月，京师大水临城。赵佶诏令林灵素登城治水。诏令发出后，水势并未消退。林灵素回奏皇帝道：“并非臣不能治水。一者此事乃天道，二者此洪水因太子而来，须令太子祭拜，相信可以退水”。赵佶于是派太子登上城楼，赐御香，设四拜。恰好水退下四丈，夜里洪水退尽，京城百姓都敬仰太子的圣德。此后，林灵素上表乞请退职还乡，赵佶不允。
九月，有人向赵佶进言，说林灵素妄言迁都，妖惑圣聪，改除释教，毁谤大臣。林灵素听了大笑，知道是蔡京作祟，于是招诸弟子和监宫官吏说道：“皇帝前后宣赐给我的物品大约值三百担，自去年用千字文字号封销，记录分明，丝毫未用，可以交回宫中。”然后，林灵素走出通真宫，离开京城，只带了些衣被。赵佶宣唤，他也不回来。赵佶只好赐他居温州道观。
林灵素到达温州，他的弟子张如晦也辞官随他而来。宣和二年八月的一天，林灵素突然携带上表拜见太守，求他上交给皇帝。然后和州官、亲族、邻里诀别道：“尘世不可久恋，况且大祸将至，我当尽快辞世。”
在十五日月圆夜，林灵素对弟子张如晦说道：”我的法门只传授给你，尚有六印九符并六丁妙用神机，全部授予你，世代只传一人，不可轻泄。另有七宝素珠一串，如果皇帝来取，给他便是。你将来当是朝廷全节大忠臣，今日师徒分别，他时神霄宫再会。“于是羽化而去。
林灵素生前在城南山选好坟址，告知张如晦：“可挖掘五尺深的墓穴，见到龟蛇便下葬。”张如晦遵照师命，墓穴挖掘到五尺深，并未见到龟蛇，于是继续挖，直到深不可视，只好下葬。
