刘武周先下手为强，利用王仁恭不开仓放粮的借口，煽动群众闹事，亲自带人出其不意，斩杀了王仁恭，然后开仓救济百姓，拉拢民心，聚众起兵。

如此一来，马邑郡就成为反隋武装之一了。

不过刘武周自知马邑在雁门关外，没有天险可守，北面是突厥，南面是隋军，腹背受敌，兵家大忌，因此，刘武周起兵之后，立即派人去突厥，觐见始毕可汗，打算送给突厥大量的金银珠宝和美女，换取突厥的支持。

马邑郡内有隋炀帝在北疆建立的行宫，里面金银珠宝无数，美女如云，刘武周派人运走，一半送往突厥给始毕可汗，一半留下做军饷。

始毕可汗凭白无故得到大量的珠宝和美人，自然极是高兴，而且还能挑拨中原人内战，削弱大隋的力量，何乐不为？于是，派人送给刘武周一千匹战马，另外派使者立刘武周为“定杨可汗”，意思是能够平定杨室的寓意。

刘武周得到始毕可汗的许诺后，择日称帝，建元为“天兴”，他的一些绿林朋友，袍泽战友都跟着水涨船高，封为将军，以杨伏念为左仆射，妹婿范君璋为内史令，宋金刚为大将军，还有吕崇茂、寻相、张万岁等人，都有封赐，一个小政权就这样诞生了。

这个消息刺激了西北的豪雄们，金城府郎将薛举，也趁机杀县令郝瑗，聚众起兵，自称西秦霸王，年号秦兴，封薛仁杲为齐公，小儿子薛仁越为晋公，金城西北贼寇宗罗睺率其众归附，封为义兴公。