父丧之后，李商隐跟随母亲回到郑州。两年后，父丧期满，他们迁居洛阳。这时候他们的日子过得很清苦，作为长子，李商隐还得做点小本生意来维持生计，如“佣书贩舂”，抄书挣钱，补贴家用。受堂房叔的影响，他对古文产生了浓厚的兴趣，十六的时候就写出了《才论》、《圣论》等好文章，在洛阳闯出了名号，用他自己的话说是“以古文出诸公间”。崭露头角的李商隐引起了骈文大家令狐楚的注意。大和三年（829），时为天平军（治所在今山东东平）节度使的令狐楚邀请十七岁的李商隐到他的幕府去做巡官，让他和自己的儿子令狐綯一起学习，并亲自教他写作四六文以便在仕途上有所拓展。
令狐楚为什么要这样器重李商隐呢？一方面自然是因为李商隐才华出众，引人注目，令狐楚也是文坛执牛耳者，提携后进是理所当然；另一方面令狐楚是牛党中的重要人物，是当时的实权派，自然会有意识地建立自己的政治团队。李商隐接受了令狐楚的栽培与资助，在时人的眼中也就意味他站在令狐楚的身后，在需要他的时候，令狐楚大手一挥，李商隐必须奋不顾身地冲将出去。可惜，年轻而浪漫的诗人并没有意识到这一点，终其一生，他只是把令狐楚当作长者来敬奉与感激。李商隐曾有一首《谢书》来表达自己的惶恐与惊喜：
微意何曾有一毫，空携笔砚奉龙韬。自蒙夜半传书后，不羡王祥有佩刀。
这里用了几个典故，大意是令狐楚虽然把他请进了幕府，但很少让他从事事务性的工作，只是在夜晚传授他写作四六文的技巧，这让诗人很激动。在李商隐的眼中，令狐楚手把手地教他写骈文，就是文坛上的衣钵相传，是个人情谊。而在令狐楚看来，这是一种政治投资，因为骈文是官场上的应用文字，他让李商隐继承骈文大家的旗号，同时也是让他扛起令狐家所代表的那面政治大旗。诗人往往在情感上过于敏锐，而在政治嗅觉上又过于迟钝，这就造成了后来的悲剧。
大和六年，令狐楚资助他前去京城应试，因为无法得到考官的认可，他落榜了，后来给令狐楚写了一封信表达歉意，说什么“仰尘裁鉴，有负吹嘘”，辜负了令狐楚的厚望。这时他的还是把考试当做自己的事。韩愈等人在考场上失利一次，就弄懂了其中的诀窍。李商隐奋斗了五年，多次失败，还以为是自己不够努力或智商太低或长相不讨人喜欢的缘故。后来令狐楚的公子令狐綯给了他一个进士的名额，他还以为令狐公子是看在同学之谊的情面上。开成二年（837），礼部侍郎高锴为主考官，他是令狐綯的铁哥儿们，考试之前专门来问令狐綯与谁关系最好，令狐綯连续说了三次李商隐，两人心照不宣，尔后李商隐果然榜上有名。上榜的诗人对令狐同学很感激，但也只是停留在感激层面，没有想到应该贴耳俯首做誓死追随状，没有想到应该用自己的政治生命去报答，这是一个诗人与政治家的误会。