嫉妒蒋玄晖得宠掌权的宣徽副使王殷、赵殷衡得知蒋玄晖激怒朱温后，便乘机谮于朱温：“玄晖、柳璨等欲延唐祚，所以故意逗遛其事，欲待变作。“
然而柳璨与蒋玄晖、张廷范朝夕聚宴，深相结，确实是设身处地的为朱温谋划禅代之事。何太后派宫人阿秋、阿虔去见蒋玄晖，乞求他日传禅之后，能保子母生全。王殷、赵殷衡就又乘机谮蒋玄晖于朱温，说道“蒋玄晖与柳璨、张廷范私下在积善宫夜宴，对何太后焚香为誓，要兴复唐祚。“朱温本就决定要杀他们，听这话后宁可信其有，更是毫不犹豫。
于是朱温便让王殷做了枢密使，赵殷衡做了宣徽院事。逮捕蒋玄晖等人，本无辜的丰德库使应顼、御厨使朱建武也受牵连被捕。朱温令人将蒋玄晖斩首，揭发其罪状，说是凶逆之徒，参与了弑帝之事。杖杀了应顼、朱建武。先将柳璨、张廷范贬官，然后车裂张廷范于都市，斩柳璨于上东门外。柳璨是柳公绰族孙，柳公绰曾参与讨平淮西吴元济之乱，后任河东节度使，镇抚沙陀，极副声望。而其后人柳璨则为人鄙野，其家人都不齿其为人，不愿承认是自己族人。临刑时他甚为后悔自己所犯的罪行，说道“我愧对朝士，有负于国！玷辱家门，使祖上蒙羞。该死，该死！！“王殷、赵殷衡又诬陷蒋玄晖私通何太后，让阿秋、阿虔通导往来。朱温就派人暗中杀害何太后于积善宫，将阿秋、阿虔于殿前杖杀。
再说唐昭宗死后，告哀使来到晋阳，晋王父子听闻凶信，南向恸哭，令三军尽皆缟素，一连数日。
这天晚上，细雨绵绵。李克用忧愤之意更浓，独立于庭外。忽听得远处有乐声传来，是有人弹箜篌而歌，歌曰“
……碧毛毡帐河曲游，橐驼五万部落稠，五世属藩唐主留。
为君百战如过筹，将军铁骢汗血流。一朝失君身何寄？仆在河东为国忧。
此时夜暗孤雁飞，微雨沾衣不胜愁。风沙飒飒青冢头，草木悲感声飕飗。何时兴兵靖国难，使得天下百姓安？”
这番歌与李克用心中所想如出一辙，也似乎在暗示他要尽快为国平难。正思量着，李存勖来了。原来李存勖也因悲愤不已而不能成寐。李克用说道：“我们沙陀自归唐以来，世世代代受唐厚恩。如今国家有难，若不讨贼，如何对得起历代先帝，如何对的起我们祖先？”李存勖应道：“正是。国贼朱温竟敢弑帝，真是天理不容。当初僖宗赦免他的罪，使他得做唐臣。没想到巨贼不思报唐，竟起不臣之心。这贼如今挟持了小天子，估计很快就要灭了唐祚而自立。灭贼匡复，势不可缓！”
李克用次日便召集诸将士商议讨伐朱温。但就在这时，突然传来盖寓病逝的消息。李克用前去吊唁，悲伤痛哭，“奈何上苍要在如此关键时刻取走我的心腹？”盖寓儿子对李克用说道“父亲临终时别无他言，唯有书信一封要我务必交给大王。”李克用接过，见其中写道“我本想跟随大王诛贼定难，无奈天不假年。大王父子俱是英雄，更何况大王身边又谋士似雨、勇将如云。匡扶唐室，必能如愿！俗话说‘雄鹰将击，先匿其形’。河东已休养数年，兵强马壮，如今正是展翼搏击之时。但大王仍请不要操之过急。大王素以忠义存心，为众所推，可传檄心系唐室之诸藩镇，共同灭贼，事将更易。另外，军旅繁忙，请大王定要多保重身体。”
联合诸藩镇共同讨伐朱温，的确是个好主意。于是李克用派使者前往成都、凤翔、淮南，告以联合诛贼、匡复唐室之意。岐王李茂贞与其养子杨崇本慨然应允。李茂贞为联合王建，还让其子李侃前往成都做为人质。
这时吴王杨行密已死，其子袭爵，但政权为大将徐温所掌控。他以与钱镠战事频繁为由，说一时难以出兵，但答应晚些时侯可侵扰朱温边境以助。
蜀王王建见到河东使者，慷慨说道“蜀之将士，世受唐恩。去岁闻乘舆东迁，连上二十表，都没有回复。不久后有逃兵自汴州来，说先帝已遭朱温弑逆。蜀之将士正日夕枕戈，思为先帝报仇。请回复晋王，蜀必定倾尽全力，誓灭国贼。“王建一番话说得让人很是钦佩，但其实不过是虚伪的表象罢了。此时的他看朱温势强，不愿也不敢与之动真格。只是希望其他藩镇能抑制朱温，自己从中得利而已。他已不再心系唐室了，有了割蜀称帝，独霸一方之志。
正当李克用要集合兵士讨伐时，忽然幽州刘仁恭派人来求救。原来朱温亲自带领大军去攻沧州，围城甚急。而朱温这次攻刘仁恭的原因，要从诛杀魏博牙军说起。
早在田承嗣做魏博节度使时，曾选募六州骁勇之士五千人作为牙军，也就是自己的亲军。对他们给与丰厚的赏赐，使之为腹心，军政之事皆得参与。到现在已二百年，这些牙兵父子世相婚姻以自结，亲党胶固，日久骄横跋扈，成为魏博最强权势集团。节度使若使他们有小不如意，便擅自废旧帅而立新。好几任魏博节度使都是牙兵所立，包括现任节度使罗绍威和其父亲。前不久牙军中的一名牙校李公牷率众作乱，罗绍威费了好一番周折才平定下去，但最终李公牷却没被捉住，投奔了沧州。自此罗绍威对牙军更是忌惮，但又无力制约，便想到借朱温之手以诛牙兵。
罗绍威深附于己，朱温当然答应。他调发河南诸镇兵七万，让李思安统领，声言要去攻打沧州，就以其收纳叛人李公佺为由，使魏博出兵以会。罗绍威让魏州之兵全部出城与汴军会和，城内只剩牙兵与自己秘密所养的数百壮士。
先前朱温使一个女儿嫁给了罗绍威之子罗廷规，正好这时朱温的女儿病亡。朱温就想出个点子。他让马嗣勋选兵千人伪装成担夫、车夫，将兵器铠甲装入袋子、箱子之中，或令人挑着，或置于车上，对魏人说是梁王派来的队伍，为丧事而来，所带都是丧葬用品。魏人丝毫不疑，马嗣勋顺利进入魏州。而朱温亲自带大军继其后而来，说是要前往李思安军营，魏之牙军也没有起疑心。
罗绍威已暗中派人进入武库扯断弓弦、弄坏了甲器。当晚，罗绍威就带领他的数百壮士，与马嗣勋合击牙军。事起仓促，牙军欲战而弓甲又不可用，被罗绍威全部杀掉。罗绍威心想无毒不丈夫，斩草要除根，又令军士进入牙军家中满门超斩。牙军共八千家，即便是婴幼、妇女、老人也一个都不留。
罗绍威诛杀牙军后，魏之诸军皆惧，但猜怨更甚。先是天雄牙将史仁遇先背叛罗绍威，聚众数万据高唐，很多州县都应之。朱温就召李思安带兵回攻高唐，所杀过半，又攻克了高唐，城中兵民无论少长，全部屠杀。史仁遇也遭擒杀。