他立志要考取进士。他去应试时，他的文章写得倒是很好，但主考官见桑维翰姓“桑”，就对旁边的人说：“这个考生怎么会姓桑呢？”其他人不明所以，那主考官接着说道：“‘桑’和‘丧’同音，太不吉利。这个人文章写得再好，也不能录为进士。”桑维翰因为这个原因而落榜了。不久，有人把这事告诉了桑维翰。桑维翰十分愤怒，特地写了一篇《日出扶桑赋》。大意说古代的东方有一棵巨大的神木，名叫扶桑。日出扶桑，是说太阳就是从扶桑那儿升起的。既然连太阳升起的地方都跟桑字有关，那姓桑又有什么不吉利？
有人劝他放弃科举，通过别的途径做宫。桑维翰摇摇头说道：“我志向已定，非考取进士不可！”
为了表示自己的决心，他就请铁匠为他铸造了一块铁砚，并拿给熟人们看，说：“除非这铁砚磨穿了，我才改用其他途径入仕。”这就是磨穿铁砚。
马希范北上之时，桑维翰正在附近游学.。他听说之后，就来求见马希范。马希范一向好文，也听说过桑维翰的名声，于是就接见了他。桑维翰见到马希范后，说道：“我听说楚国奉天子而名震诸侯，势力不可小觑，加上所处之地，又利尽南海，王子自然是大富之人。这次你来北方，肯定从府库中带来了不少的金银财宝，否则就不足以供应你如此大的用度。可是我却非常贫困，不如你送万两黄金给我，如何？”
马希范本来就是公子哥，看到桑维翰身材短小、面却很长，言语粗鲁，又相貌丑陋。马希范大失所望，听了他的话后，不禁为之绝倒。马希范出于面子，赠给了他数百两银子，准备以此把桑维翰林打发了事。桑维翰却嫌少，勃然大怒，拂衣而去。后来马希范当楚王之时，桑维翰已经是宰相了，于是就找机会报复马希范，削去了马希范的爵位。这是后话，略过不提。
同光元年（923年）十月，马希范顺利地来到了洛阳，也顺利地见到了李存勖。对于之前从未了解过的楚地，李存勖自然陌生。李存勖便问道：“听说你们那里有个著名的洞庭湖，这个洞庭湖到底有多宽广？”
马希范确实聪明，反应也快。他从李存勖这个似乎随意的问题中嗅出了一丝火药味。如果据实向李存勖回答，也许会让李存勖对楚地产生兴趣。但如果不据实回答，又担心激怒李存勖。马希范略作思考，不卑不亢地答道：“洞庭湖并不是很大，如果陛下你南巡到了那里，估计洞庭湖的湖水也只能供陛下大军的战马饮水而已！”马希范机智灵活的回答让李存勖听了极为舒服，他得意洋洋的大笑了起来。
李存勖心想看来马殷这儿子还算机灵，便又想出了一条反间计，故意夸赞马希范说道：“我原先听说，楚王的位置很快就要被高郁篡夺了，可楚王有你这么聪明的儿子，高郁怎么可能得逞呢！”这句话说者有心，听者也有意。马希范和马希声一直对父王马殷信任高郁，使得高郁大权在握，心中极为不满。何况高郁又总是力挺马希振为世子，更是让这两个同父异母的兄弟对高郁恨之入骨。