这时尚书左丞张康国已经升任知枢密院事，他本来是由蔡京所举荐。不久后，他被越级提升。在任职枢密院之后，他又和蔡京互相争夺权力，自立门户。有时他觐见赵佶，少不得药诋毁蔡京。刚好蔡京这时也觉得蔡京越来越骄横，于是秘密下令张康国监视蔡京，还说道：“你如果能尽力，就可以让你代替蔡京为宰相。”
张康国听了，自然欢喜雀跃得很。他派人日夜监视蔡京的举动，稍为听到了一些风吹草动的消息，就立即密报上去。蔡京也已经有所察觉，于是举荐吴执中为中丞，嘱咐他弹劾张康国。哪知道张康国已先得到消息，竟然先发制人。他趁着赵佶上朝，急忙进去，跪奏道：“吴执中今日进来，必定是替蔡京弹劾微臣。微臣情愿避位，免遭蔡京怨恨。”
赵佶上道：“朕自有主张，你不要多虑！”张康国退导殿庐。吴执中果然进见，当面陈说张康国的过失。赵佶不等他说完，便勃然大怒道：“你敢受人唆使，来进谗言吗？朕看你不配做中丞，给我滚出去吧！”吴执中碰了一鼻子灰，磕头退朝，吓得面如土色。当夜，就有诏书谴责吴执中，命他出京担任滁州知州。
爱搞阴谋诡计的蔡京，遭遇此次挫摆，自然不肯干休。于是他千方百计的想谋害张康国。张康国心知肚明，自然也小心防备。可是明枪易躲，暗箭难防，就算他百般慎密戒备，还是保不住有一疏。一日，张康国入朝，退到殿庐。他只是喝了一杯茶，就觉得腹中大痛，狂叫不止。不到半个时辰，已经是仰天吐舌，好像牛喘一般。殿庐直役的人，慌忙扶他到待漏院。刚刚进入房间，他就两眼一睁，顿时呜呼哀哉了。
众臣听说张康国突然暴毙，逗料定是中毒，但是也不便明言。赵佶听说后，暗暗惊异，表面上只好照例优恤，追赠开府仪同三司，给他一个美谥，叫作文简，算是了结。张康国的遗缺，赵佶就命郑居中代理，另外用管师仁为同知院事。
一次集英殿胪唱贡士名，由中书侍郎林攄，传报姓名。贡士中有姓甄名盎，林攄却把甄读为烟，又读盎为央。赵佶刚好上殿看阅，不禁笑道：“你读错了。”林攄去人自以为是，并不认错。当时在旁站立的人，难免偷偷发匿笑。林攄却大声喝道：“殿上怎能失仪！”众人听了他的话，感到非常不平。
于是御史弹劾他没有学问，并且倨傲不恭，有失人臣之礼。赵佶便罢了林攄的官职，降为提举洞霄宫。赵佶任命余深为中书侍郎，薛昂为尚书左丞。薛昂亦也是蔡京一伙，全家人都不敢说京字。如果无意中说了，动辄自己责罚。薛昂如果自己误说，就自己打自己的脸。蔡京非常喜欢他的恭顺，于是举荐擢升他担任了是职。
只是郑居中既然掌权，他与蔡京本来就有夙怨。于是他暗地里指使谏官，上奏陈述蔡京的罪恶。中丞石公弼、殿中侍御史张克公等人，接受了郑居中的嘱托，接连上奏弹劾蔡京，共上了数十本，却没有效果。郑居中一计不成，再生一计。郑居中卖通了方士郭天信，让他秘密上奏说日中有黑子，是宰辅欺君的预兆。
赵佶这时正好非常迷信，不免心惊胆战，于是罢了蔡京的相位，降为太乙宫使，改封楚国公。殿中侍御史洪彦升、毛注等人，趁机落进下石，上奏攻击蔡京的大罪，请求把蔡京遣出京城。
太学生陈朝老等人，也上阵大讲蔡京之恶，共有十四款，说蔡京，渎上帝、罔君父、结奥援、轻爵禄、广费用、变法度、妄制作、喜导谀、箝台谏、炽亲党、长奔竞、崇释老、穷土木、矜远略。
结尾的时候，还引用了《左传》的成文，有“投诸四裔，以御魑魅”等话。赵佶缺只是命蔡京退休，仍然留在京师。赵佶任命何执中为尚书左仆射，兼门下侍郎。陈朝老又上书说何执中才不胜任，赵佶不肯听从。
到了大观四年夏季，彗星出现在奎娄间赵佶徽宗援照以往的例子，避殿减食。他还命令侍从官，直言陈说朝廷的得失。石公弼、毛注等人于是大力论述蔡京之罪，张克公也说蔡京不轨、不忠的事情，多达数十件。赵佶于是贬蔡京为太子少保，出京到杭州居住。余深失去了一个大援，心中不能自安，也上疏乞求罢职，被赵佶出知青州。
当时张商英调任杭州知州，路过京城的时候，面见赵佶。在和赵佶的面奏中，他对蔡京明确表示了不满，因此暗合赵佶的心意意。赵佶于是留他在京城居住，任命他担任中书侍郎。张商英字天觉，蜀州新津人。他身材魁伟，容貌姿态如玉石一样耸立。他能言善辩，又自负卓异，雄视世间。
英宗治平二年，中进士，任通川县主簿。一天，进入寺中看到大藏经的卷册齐整，生气地说道：“吾孔圣之书，乃不及此！”欲着无佛论，后来读《维摩经》，看到“此病非地大，亦不离地大”，深有所感，于是归信佛法。
不久，渝州蛮夷发动叛乱，他说服首领投降，被朝廷征召为南川知县。章惇治理夔夷的时候，经常侮辱郡县官吏，因此没人敢和他说话。有人想到只有张商英足以和他抗衡，就传檄召他到夔州。章惇询问当地人才，使者就把张商英介绍给了他。章惇马上喊他进去一起吃饭。
张商英穿着道士服装，长揖就坐。章惇随意狂言乱语，张商英不时加以辩驳，举止潇洒，高出章惇一筹。章惇非常高兴，引他为坐上客。章惇回到朝廷，把他推荐给王安石，因而被皇帝召见问话，从检正中书礼房擢升为监察御史。
王安石变法后，有人反对屡次要废新法。商英上书说道：“三年无改于父之道，可谓孝矣。今先帝陵土未干，即议变更，得为孝乎？”他巧妙地利用“孝道”来维护变法。并且写信给苏轼，其中有“老僧欲往乌寺，呵佛骂祖”的不满言语。吕公著听说后，很不高兴，把他调出京城，先任河东刑狱，后在江西、淮南任职。
哲宗初年，张商英任开封府推官，出任提点河东刑狱，连续任河北、江西、淮南使者。哲宗亲自当政，召他任右正言、左司谏。张商英非常怨恨元祜大臣没有重用自己，就极力攻击他们，指责内侍陈衍动摇高太后，以至于把她比为吕后和武则天。他请求朝廷褫夺赠给司马光、吕公著的谥号，捣毁他们的墓碑和坟墓；说文彦博忘恩负义，以及苏轼、范祖禹、孙升、韩川等人，于是这些人都相继受到谴责。
蔡京担任宰相，张商英和他交好。遇到草拟朝廷公文时，就对他大加赞美。不久他被任命为尚书右丞，转左丞。不久，他又和蔡京政见不合，多次说蔡京“身为宰相，却一心迎合君主”。蔡京被罢免宰相，削除官籍，张商英任鄂州知州。蔡京恢复宰相职位，张商英以散官被安置在归州和峡州。
大观四年，蔡京再次被逐，张商英被起用任杭州知州。结果被赵佶留在朝廷任资政殿学士、中太一宫使。不久，任命为中书侍郎。很快又被任命为尚书右仆射。蔡京长久以来窃夺大权，朝廷上下都怨恨愤慨。众人看到张商英敢于提出异议，多次称赞他为贤臣。
赵佶因为他有声望，就任他做宰相。当时长期干旱，一日，彗星出现在天空。这天晚上，彗星没有出现，第二天，就下了大雨。赵佶很高兴，大字书写了“商霖”二字赐给张商英。
张商英处理政务公平，认为蔡京虽然标榜恢复新法，但不过是借此来威胁控制国君，禁锢士大夫罢了。于是他大力变革弊政，废除当十钱进而改革币制，恢复转般仓进而废除直接运输，施行纸钞以便于通商行旅，免除不合理赋税以减轻百姓的负担。
张商英还劝说赵佶节制浮华奢侈的生活，停止修建土木工程，打击投机钻营的佞臣。赵佶对他颇有几分畏惧，曾经修葺装潢升平楼，告诫主管官吏凡是遇到张丞相骑马来到，一定要把工匠藏在楼下，直到他走过去才哪恢复工作。
赵佶想任命杨戬担任节度使，张商英说道：“祖宗法规，内侍不担任团练使。有功劳应当提拔之人，则应另外设置昭宣、宣政等使官加以褒奖，从没有听说过要授予旄钺执掌军权的。”一直坚持不签发任命状，人们更是称赞他。
他曾经到五台山礼拜文殊菩萨像，有所感应。于是塑文殊像供奉在山寺，并撰写发愿文。不久，遇到大旱灾，他入山祈雨，三次都很灵验，因此闻名于朝中。他又归还僧寺田三百顷，以此表达崇佛的赤诚。他任职江淮荆浙等路发运使的时候，礼谒东林寺常总禅师，得到禅师的印可。
接着他又到兜率寺的从悦禅师处参学，在该寺的面，拟瀑轩题诗中有“不向庐山寻落处，象王鼻孔缦朝天”，意思是讥讽从悦禅师不肯定东林禅师。