明王朝建立前，刘伯温还是块宝，待到朱元璋屁股坐稳后，就转眼间成了田间地头的蒺藜草。
可是，刘伯温功劳太大，本领太高，分量太重，无法一锄头将他铲除。不然，您“老先生”、“吾子房也”恭恭敬敬地刚刚喊过没几天，突然就翻脸不认人那不是太流氓了吗？于是，朱元璋专门为其量身汀做了温水煮青蛙策略。
降低刘伯温的威信
洪武三年（公元1370年），朱元璋大封功臣，封公封侯者多矣，而这个功不下张良的国师竟然排到了第36名，只封为伯，年薪240石，而与其功劳不相上下，同为核心，同被朱元璋视为左右手的李善长却被封为韩国公，年薪4000石。职务上更是泾渭分明，李是一人之下万人之上的百官之首的丞相，而刘是负责给百官挑毛病的御史台的副长官。朝堂上一站，30多人都在你前边，完全是一副有你不多没你不少的架势，就这一招，你的锋头就打下去半截，你还牛吗？
为刘伯温制造敌人
开国初年，朱元璋以多年知己的口气异常诚恳地和刘伯温品评几个重臣。
朱元璋问：杨宪如何？
刘伯温答：杨宪有相才，但无相器。
朱元璋又问：汪广洋如何？
刘伯温答：他的褊狭和浅薄比杨宪还不堪大用。
朱元璋又问：胡惟庸如何？
刘伯温答：胡惟庸最为糟糕，好比一匹劣马，叫它驾车，必然会翻车坏事。
朱元璋这样说道：我的相位只有先生能担当了。
刘伯温再次辞谢道：我这个人疾恶如仇，又受不了繁冗公务的劳累，真的干上了，会有负皇上重托。天下大才有的是，您细心访查定会得到的。不过，目前的这些人，一个都不合适。
这样的对话句句都不露痕迹地传到当事人的耳朵里，所幸杨宪素来敬仰刘，而汪广洋是个忠厚之人，二人都没有挟嫌报复。由于二人不能充分领会领导意图，因此很快就和相位拜拜，有的死得还很难看。而胡惟庸就不是这样了，他把刘的话深深地记在了心里，仇恨让他一辈子也没有放下。
撤销刘伯温的养老金
刘伯温是何等聪明的人，他岂能感觉不到朱元璋的心思，然而，儒家的理念和朱元璋的天威，使他只有在战战兢兢的心境中鞠躬尽瘁死而后已。
洪武三年，朱元璋亲自召见刘伯温，充满关心和体贴对他说：“你年纪这么老了，应该在家陪老婆孩子，何苦在这里陪着我呢。”刘伯温就这样“光荣”地退休了。无官一身轻的他，偏偏轻不下来，处江湖之远还要忧其君，他看到某个地方社会治安隐患不少，于是热血了一把，上书朝廷，建议在这里设置一个管理机构。这本是个发挥余热的报国之举。应该大张旗鼓地表彰，可是在丞相胡惟庸的鼓动下，竟然有多名官员诬蔑他有野心，想占据有“王气”的地方图谋不轨。这个问题其实并不应该成为问题，究竟事实如何，派员下去查一查不就完了吗？可是朱元璋偏不这样做，而是不问青红皂白，下诏撤销他的养老金。
明眼人一看便知，这只不过是个借口，或者干脆就是个捕风捉影甚至是无中生有的由头。刘伯温只得赴京请罪，可是朱元璋却不给他辩白的机会。十分显然，知道你是冤的，但就是不给你洗清，让它永远成为悬在你头上的达摩克利斯剑。
巨大的压力和看不到尽头的心灵折磨。60多岁的刘伯温病倒了。他这一病，朱元璋的机会又来了。他指示丞相胡惟庸拿着药去看望这个足智多谋的老人，万一他是另一个韬晦装病的司马懿呢！结果，胡惟庸的药太神奇了，刘伯温喝下去后，一个拳头大的石头一样硬的东西就横亘在了胸口。不久，这个叱咤风云的一代雄杰就驾鹤西去。
从此，朱元璋再也不用担心这棵碍事的蒺藜草了。刘伯温的清除，也预示着朱元璋大开杀戒的序幕就要拉开了。