隋朝末年，农民起义遍及全国各地，隋炀帝杨广于大业十一年(615)以李渊为山西河东慰抚大使，不久又拜太原留守，以北备突厥，并镇压今山西省境内的农民起义。当时，隋政权已呈土崩瓦解之势，统治阶级一再发生大分裂，地主武装和义军星罗棋布于各地。
李渊移官太原后，看到隋朝即将败亡，萌动了取而代之的念头。大业十二年，农民起义在全国已居优势，隋朝再也无法集中兵力有效地打击各个武装集团，李渊于次年五月在太原杀死副留守王威和高君雅，正式宣布起事。
七月，李渊与长子建成、次子世民挥师南下，先后破霍邑(今山西霍县)，渡黄河，向西南挺进。十一月间攻入长安。不久，就宣布遥尊隋炀帝为太上皇，拥立炀帝孙代王杨侑为帝，改元义宁，是为隋恭帝。李渊任大丞相，进封唐王。大业十四年三月隋炀帝在江都被杀，五月，李渊逼恭帝禅让，自己称帝，国号唐，是为唐高祖。改元武德，仍都长安。
