其原因在于他对元朝的腐败统治十分失望与不满，故而希望能够有新政权将其取而代之，而朱元璋无疑是最合适的人选。
出生于元朝末年的刘伯温在二十三岁时前往京城参加会试，后来他虽高中进士却因当时朝局混乱而未能成功入仕，反而又在家中闲居了三年之久。三年之后，刘伯温被任命为江西高安县的县丞，开始正式进入官场
因为刘伯温执法严明且爱民如子，故而高安县百姓对他十分爱戴。与此同时，高安县当地的社会风气也在他的治理下日渐好转。不过相对的，高安县的地方豪绅却十分痛恨刘伯温，为此常常设法陷害他。幸亏刘伯温有长官以及百姓的庇护，所以这些豪绅并没能给他造成太大的祸端。然而纵然刘伯温为官期间政绩出色，但是碍于当时元朝朝局实在混乱，所以刘伯温后来还是辞了官。
刘伯温辞官之后便返回故乡，几年之后朝廷再一次征召他入朝为官。这一次朝廷授予刘伯温的官职是江浙儒副提举。但是后来因为举报监察御史职这一举动，刘伯温再一次受到其他同僚的排挤，为此他仅在职一年便再一次辞官回乡。在家又闲居了两年，刘伯温在欧阳苏的邀请下前往丹徒并在此隐居。两年之后刘伯温离开丹徒转而去往杭州，然后在此又待了四年。四年之后因为徐寿辉率军攻打杭州的缘故，刘伯温只能携带家人离开杭州。
待刘伯温从杭州回到家乡后没多久，他便又一次收到朝廷发来的征召公文。之后刘伯温便再次入仕，成为江浙省元帅府都事。此次在任期间刘伯温主要负责镇压江浙地区的盗贼，而这些盗贼中有一名叫方国珍的人犯事最多。刘伯温认为唯有将此人诛杀才能以示惩戒，但是朝廷却想要招降方国珍。最后方国珍在重金贿赂官府的情况下被顺利招安，而他在被招安之后还反过来诬赖刘伯温。刘伯温因为这件事情对元廷越发失望，于是直接辞官归乡
