刘渊,字元海,新兴(今山西忻县)匈奴族,少有大志,常以恢复匈奴势力为念,后被匈奴各部共推为大单于。304年,王浚与司马腾起兵征讨司马颖时,刘渊向司马颖献上良策,被司马颖拜为北单于。永安元年(304年)八月,刘渊在左国城(今山西离石)起兵反晋,自称大单于。同年十月,刘渊对众宣称:“昔汉有天下之长,恩结于民。吾,昔汉氏之甥,约为兄弟;兄亡弟绍,不亦可乎!”于是,建国号为汉,刘渊即汉王位,并尊蜀汉刘禅为孝怀皇帝,建元元熙。十二月,刘渊与司马腾两军相遇,双方大战于大陵(今山西文水),司马腾大败,刘渊乘胜追击,派刘曜攻占了太原,又夺取了泫氏、屯留、长子、中都等地,并攻掠河南各州郡。