石敬瑭忧患安重荣跋扈，即任命刘知远为北京留守、河东节度使，把辽州、沁州隶属于河东；把北京留守李德调任为邺都留守。刘知远卑微时，曾经放牧马匹，侵犯了僧人的田地。僧人把他抓住打了板子。刘知远到了太原，首先把那个僧人找来，让他坐下，安慰他，并赠送东西给他，众人心里大为高兴。
石敬瑭谕示安重荣，说道：“你身为大臣，家中还有老母。我是因契丹而得天下，你因我而得到富贵。我不敢忘人家恩德，你却忘了，这是为什么？现在，我率天下臣属契丹，你想用一镇之地来抗契丹，也太难了！你应该审慎地思考，不要招祸。”
安重荣得到诏书，反而更加骄傲。他听到山南东道节度使安从进有叛乱之心，即暗中派使者与他通同谋划。石敬瑭因为安重荣杀了契丹使者，怕他们前来侵犯边塞，于是派遣安国节度使杨彦询出使契丹。杨彦询到了契丹的营帐，契丹责问使者遭杀的情况，杨彦询说道：“比如人家里有了恶子，父母管不住他，那将怎么办？”契丹主的怒气才消。
刘知远派遣他的亲近将领郭威，根据朝廷诏命去劝说吐谷浑酋长白承福，让他脱离安重荣，归附晋廷，并答应让他当节度使。郭威回来，对刘知远说道：“胡虏只喜欢做对自己有好处的事，安重荣只是用袍贿赂他。我们想要把他拉拢过来，必须要用重赂。”
刘知远听了他的建议，并且派使者去告诉白承福，说道：“朝廷已经把你们割属于契丹，你们就应该安分治理自己的部落。现在竟然帮助安重荣，成了叛逆。安重荣已经被天下所唾弃，早晚之间就要败亡。你们应该早日顺从归化，不要等到朝廷大军前来。如果弄得南、北都无所适从，那时就后悔不及了。”
白承福恐惧不已，即率领兵众依附了刘知远。刘知远把他们置放在太原东山及岚州、石州之间，上表请任白承福领受大同节度使，收揽他的精锐骑兵隶属在自己的指挥之下。
不久，安重荣传送檄文给诸道，说与吐谷浑、达靼、契共同起兵。白承福向刘知远投降之后，达靼、契芯也不起兵，安重荣大为沮丧。安重荣听说安从进兴兵反晋，便大举收集境内饥民，人众达到数万，南向邺都，声称要入朝。
起初，安重荣与深州人赵彦之都是散指挥使，相处融洽。安重荣镇成德时，赵彦之从关西来依附他，安重荣待他很厚重，让赵彦之招募党众。然而内心实际上是猜忌他，等到举兵造反时，只是任用他充当排阵使，所以，赵彦之怀恨于他。
石敬瑭听说安重荣反叛，即任天平节度使杜重威为招讨使，安国节度使马全节为副招讨使，前永清节度使王清为马步都虞候，率军征讨。