然而，与科举的坦途相比较，刘基的仕途却显得坎坷得多。毕竟，科举在某种程度上是取决于一个人的才华，而官运则更多地取决于一个人对于官僚体制的适应能力。
元统元年（1333）的进士刘基，直到至元二年（1336）才授了一个高安县丞的官职。县丞是协助县令处理政务的小官，秩正八品。此后二十多年中，刘基先后出任过江西行省掾史、江浙儒学副提举、行省考试官、行省都事、行枢密经历、行省郎中、处州路总管府判等官职。这些官职中，儒学副提举是从七品，行省都事是七品，处州路总管府判是正六品。二十余年的宦途，不过一直是沉沦下僚罢了。对于自负不世奇才的刘基来说，自然极为郁愤。不幸，刘基的性格又是“疾恶如仇，与人往往不合”。刘基后来在与明太祖朱元璋的对话中也说自己“疾恶太甚”。在贿赂公行的元末官场，刘基的性格让他屡受打击。根据通行说法，最严重的打击分别出现在元至正十四年（1354）和元至正十六年（1356）。
元至正十三年（1353），四十三岁的江浙行省都事刘基因建议捕杀方国珍，与朝廷抚绥政策相左，次年春被羁管于绍兴。当时，刘基本人“发愤恸哭，呕血数升，欲自杀”。门人密理沙劝阻道：“如今朝廷是非混淆，岂是先生自杀的时候？况且太夫人在堂，您死了，她老人家怎么办？”羁管绍兴，倒让刘基真正享受了一生中难得的一段轻松时光。他纵情山水，写下不少关于绍兴的游记。在《游云门记》中，他说：“语东南山水之美者，莫不曰会稽。岂其他无山水哉？多于山则深沉杳绝，使人憯凄而寂寥；多于水则旷漾浩瀚，使人望洋而靡漫。独会稽为得其中，虽有层峦复冈，而无梯磴（dènɡ）攀陟之劳；大湖长溪，而无激冲漂覆之虞。于是适意游赏者，莫不乐往而忘疲焉。”我们读到这样的一段文字，或可相信刘基真是会得了儒家中庸的精神。然而，绍兴山水之美，并未使刘基完全忘情其中。至正十六年(1356)春，江浙行省的一纸调令激起了刘基心中的涟漪（yī)。虽然绍兴风景难舍，但治国平天下的强烈愿望还是使刘基马上接受了这一调令，离开了绍兴，出任江浙行省枢密院经历，与枢密院判官石抹宜孙等同守处州。
不久，刘基升任行省郎中。与石抹宜孙同守处州这一段时间，是刘基心情最激昂的一个阶段。他与石抹宜孙彼此赋诗酬唱，甚是相得。然而，刘基虽然守土功大，但朝廷仅将刘基升为处州路总管府判。这一职位变动，使刘基对朝廷失望到极点。据说，刘基收到朝廷的谕旨后，即于庭中设香案，拜敕书，称：“臣不敢负世祖皇帝，今朝廷以此见授，无所宣力矣。”既然官职让充满抱负的刘基无法施展才能，于是他决计弃官归田，隐居在南田山下。刘基之言表明，他不是有意不为朝廷效力，而是朝廷没有重视他，给他的职位太小，让他无法干一番事业。
此时，天下大乱，地处偏僻的处州路也不宁静。元将石抹宜孙镇守着处州路，其弟石抹厚孙镇守处州北面的婺州路（今浙江金华）——那里是刘基好友宋濂的家乡。处州路东面是占据浙东的方国珍；北面是势力强大的张士诚；西面朱元璋的军队也开始进逼。隐居的刘基一方面已无法再为朝廷效力，另一方面却从内心中瞧不上纷起的割据势力。在刘基心中，这些占据一方的“寇”最多也就是“勾践之业”，称霸一方而已，不值得投奔。于是，刘基一边组织乡人于乱世中自保，免遭方国珍的骚扰；一边著《郁离子》，以寄托自己的一腔幽愤。正如《剑桥中国明代史》中所说：“（元朝末年）精英分子并没有去搞颠覆活动，发表不同政见，或者急于公然参加反对这个受苦难的政体的叛乱。他们接受元朝的合法性，一直期望它有所改进。就是当遇到政府有不可避免的失误时，他们也还是迫切地希望保持自己家乡的有秩序的现状。如果说元朝从他们这些社会的天然领袖身上得到的支持越来越少，那么，许多反对元朝的叛乱分子……也没有得到他们大规模的自发的合作。”刘基正是这一类精英分子中的一个典型。
在各路割据势力中，尤以朱元璋的势头最猛。至正十八年（1358）十二月，他的部队攻克了婺州路，不到一年，即第二年十一月，处州路也落入朱手，刘基的好友石抹宜孙败走。最后一块让刘基容身的净土也失去了。后来有人说：“这一年，先生因不为元用，隐居青田。如果不是这样，势必与胡琛、章溢等同议守备，出奇制胜。”以刘基的谋略，朱元璋的军队是否能顺利攻陷婺州、处州，还真是难说。明代学者王世贞就说：“元朝不用刘基，等于是将刘基送给了太祖朱元璋。不使刘基与太祖角力争斗，反而让刘基成为太祖的谋臣，为敌所用，真是奇特啊。”换句话说，若非被弃用于元朝，刘基也就成不了明朝的开国功臣。
------------
朱元璋的谋臣（1）
------------
朱元璋的谋臣：1360—1367
刘基的出山，一半是请出去的，一半是逼出去的。刘基的出山为未来的朱明王朝立下了不少功劳。
朱元璋对于刘基，早已闻名。明代张萱《西园闻见录》记载说，太祖朱元璋初在滁阳间，韩国公李善长举荐浙东宋濂能知象纬，谁知宋濂却说：依我看，我的本领不如青田刘基。但对于刘基来说，投奔朱元璋实是不得已的行为。明朝建立后，《刘基行传》的作者为神化朱元璋、刘基君臣间之契合，就杜撰出西湖望云和陈说天命的故事。据说，刘基在做江浙行省儒学副提举时，曾游西湖，见异云起西北，光映湖水中，同游者鲁道原、宇文公谅等人都以为是庆云，将分韵赋诗。刘基独纵饮不顾，大声道：“这是天子气啊，应在金陵，十年后有王者起其下，我当辅之。”当时，杭州城还是一片繁华，同游的人都以为刘基说狂话，吓得纷纷避走，说：“这不是要连累我们灭族吗？”刘基与门人沈与京痛饮而归。十年之后，即朱元璋攻破处州时，刘基大摆筵席，向亲朋好友陈说天象，说：“此天命也，岂人力能之耶？”于是与朋友叶琛、章溢应征赴金陵。其实，清人杜荫棠曾经指出过“西湖望云”的故事来源。他在其《明人诗品》中说，刘基在元时，有《和王文明》绝句云：“夜凉月白西湖水，坐看三台上将星。”有好事者遂附会说刘基曾望西湖云气，实际上是胡说。
刘基出山，其实是不得已。早在至正十九年处州被破时，朱元璋部将缪美就强迫刘基出山，将他带到金陵。无奈刘基确实不想留下来，朱元璋也只好放他回去。不过，刘基这样的人才肯定会始终惦记在朱元璋的心中。大概不久之后，朱元璋指示他的另外一个部将孙炎去劝刘基出山。孙炎此时是处州总制官。
孙炎这个人，在明史上不是很出名，今天的人也不怎么知道他，但在当时，他可是朱元璋最为得力的干将之一。时人夏煜描述朱元璋与孙炎之间的关系说：“我皇入金陵，一见颜色厚，高谈天下计，响若洪钟扣。”根据宋濂、汪广洋等人的记述，孙炎这个人身高六尺余，面黑如铁，有一只脚还有点跛，不怎么读书，但却喜欢赋诗，往往有奇句，又善于雄辩，一开口就是数千言，在他的面前，人人都怕他那张嘴。孙炎还非常喜欢喝酒，喝了酒后作诗辩论，有如神助，豪情万丈。孙炎交友广泛，夏煜、宋濂、汪广洋都是他的好友。可以想见，孙炎确实是一个非常有人格魅力的人。
对刘基，孙炎一开始是派使者去请。请了几次，刘基就是不肯出山，只是送了一柄宝剑给孙炎。孙炎将宝剑封还，作了一首《宝剑歌》，大意说这宝剑是刘郎的传家宝，我不敢接受，还给您，希望您能够献给明主，这才合适，好比大旱之后换了甘霖。他的意思是要刘基出来帮朱元璋做一番事业。孙炎还附上了一封信，洋洋数千字，说的也无非是这类意思。刘基没办法，只好去见孙炎。孙炎见刘基来，高兴得很，摆上了酒，与刘基对饮，谈论古今成败的往事，好像大河奔腾、峡谷决堤一样，滔滔不绝，一点也没有阻碍。这一来，刘基佩服不已，说：“我刘基开始时以为比您强，听了您的议论之后，我哪里敢跟您比啊。”孙炎以其豪情与雄辩折服刘基，完成了朱元璋下达的任务。
行状的作者虽仍坚持陈说天象之事，却无意中记下这么一笔：“公决计趋金陵，众疑未决，母夫人富氏曰：‘自古衰乱之世，不辅真主，讵能获万全计哉！’”无疑，处于各种势力纵横捭（bǎi）阖、互争胜负之际，声名在外的刘基想要安安稳稳地隐居几乎是不可能的，他必须做出选择，以“获万全”，而控制家乡处州的朱元璋势力无疑是一个最恰当的投奔对象！这时候，朱元璋正在努力争取他。刘基也看到在当时的割据势力中，只有朱元璋兵精将强，最有前途，更何况也许从总制官孙炎的身上他看到了另一个自己呢。在经过一段时间犹豫后，本来不情不愿的刘基也便顺水推舟，来到当时朱元璋的权力中心地——集庆路，从此踏上新朝的宦途。当时，朱元璋已将此地更名为应天府（今江苏南京）。
朱元璋对于刘基的了解，似乎局限于其“象纬之学”，即观天象、验谶纬的本领。所以，他征用刘基，最初的目的也许是想借助刘基的术数之学。