朱温称帝后，不甘心北方门户泽潞地区被李家的父子占据着，为了除去这块心病，他称帝后要做的第一件事便是消灭李克用。

后梁开平元年（907年）六月，朱温派保平节度使康怀贞率八万后梁军会同魏博军去收复潞州。康怀贞立功心切，率军前往，结果河东方面的昭义军节度使李嗣昭死守不战，后梁军不想坐等粮草耗尽，于是大举进攻；攻打了半个月，还是没有攻下来。

晋王李克用得报潞州被围，也尽遣精锐前去解围，河东方面的几员名将周德威、李存璋、李嗣源、安金全等人急驰潞州。二十多天未见捷报，朱温也等不急了，便撤了康怀贞，让亳州刺史李思安接替他。李思安来到潞州城外，在城下建立了一座军事据点，企图隔断城中河东军与城外河东军的联系，后梁人称之为夹寨。周德威不想让李思安得手，日夜攻寨，即使攻不下来，也要和后梁军耗下去；后梁军龟缩在寨中，以守代战。

正在这个时候，突然传来晋王李克用病故、其子李存勖继为晋王的消息。相传李克用死前，曾经交给儿子李存勖三支箭，说分别代表刘仁恭、朱温和耶律阿保机。以后每攻灭一处就要在他墓前取出一支箭来，告慰其在天之灵，李存勖后来也是这么做的。后来，李存勖建立后唐的时候，追尊李克用为太祖武皇帝。不过这个“唐太祖武皇帝”比起那个唐太宗文皇帝来，差的可不止一个段位，连修史者都认为李克用不太能当得起这个“武”字。

李克用死讯传到汴梁，朱温不太相信，担心是沙陀儿耍的伎俩，为了稳妥起见，决定亲自去探个虚实。因李思安屡战不胜，他便调刘知俊代替李思安为潞州前线总指挥，不过刘知俊此时尚留在同州。

在确认李克用病死的消息后，朱温总算松了一口气，毕竟在朱温眼中，李存勖还是个乳臭未干的孩子，不足以威胁到他。于是，他惬意地回到了汴梁，留下刘知俊，命他暂时驻守这里，过段时间再撤。

朱温想的很简单，没想到李存勖初出茅庐便给朱温一个大大的下马威。李存勖年少气盛，也想干出些名堂给手下人看，后梁开平二年（908年）四月，他亲自率军来解潞州之围。河东军行至距离潞州以北约五十里处的黄碾下营，李存勖身披重甲，时刻准备上战场，命人随时侦探前线情况。当李存勖探知后梁营没有瞭望哨时，大喜过望。

到了五月，有天清晨天降大雾，李存勖率军轻进至三垂冈（今山西长治附近）埋伏，等待时机出击。乘着大雾弥漫，李存勖下达了攻击命令。李存勖率一路直击后梁营东北寨，周德威和李存审各为一路，朝后梁营杀去。后梁军毫无防备，稀里糊涂地被全歼，军械粮食尽被河东军夺去，被围近一年的潞州终于被解救出来。

河东军想趁势去取泽州（今山西晋城），但后梁大将牛存节率援军已经来到泽州。河东军开始攻城，一连攻了十几天，都被牛存节击退，泽州纹丝不动，加上后梁将刘知俊即将行进至泽州，李存勖知道泽州暂时动不了，便撤军回到太原。

那头的朱温一直在等着好消息，结果得到的却是全军覆没的结果。朱温一世枭雄，哀叹连连，说了一句很著名的话：“生子当如李亚子，李氏不亡矣！吾家诸子乃豚犬耳。”朱温屡遭重挫，为了调整情绪，积蓄力量再战，于后梁开平三年（909年）春，迁都洛阳，不过仍以汴梁为东都。