就这样谈论了几日后，萧墨宸才将他们是打发了下去。而就在萧墨宸准备动身前往历阳之时，那刘武周率三万大军又攻占了介州，这顿时就引起了李渊的高度重视。当他派遣太常少卿李仲文为行营总管，与左卫大将军姜宝谊率兵前去救援并州时，却被刘武周的将领黄子英击败于雀鼠谷内，这更让李渊有些惊惧了起来。
当李渊再次派出了右仆射裴寂为晋州道行军总管，并督军抗击刘武周时，却又遭到了宋金刚的反击。双方战于介休山下的索原度，而裴寂所率领的唐军抵挡不住宋金刚的进攻，乃至全军溃败，而裴寂也只身逃回了晋州。
此时刘武周的进攻是势如破竹，并很快就逼近了晋阳。晋阳可是李家的发祥之地，所以李渊立刻下诏令右卫将军宇文歆前往晋阳，并协助李元吉镇守并州。
虽然李元吉被任命为了并州总管，但他却喜好打猎，装载的罗网、车子就有三十多辆。他还常说“宁可三天不吃饭，也不能一天不打猎”，甚至他还放纵自己身边的人去掠夺百姓们的财物。使得宇文歆多次劝阻无效后，才不得不上奏李渊道：“齐王在并州，经常穿上便装出城，和窦诞一起游乐打猎，践踏农田庄稼，放纵身边的人，公开掠夺百姓的财物，境内的家禽家畜，几乎被他们抢光。他站在大路中间放箭射人，观赏人们的躲避，而作为娱乐。把兵卒分成左右两方，做打仗游戏，直到互相殴斗砍杀，造成伤残甚至死亡。夜晚又敞开府门，到别人家里公然干些银猥勾当。使得黎民百姓是怨声载道，怨气冲天，像这样的状况又如何守得住城池！”
这封奏折还没有送到李渊的面前时，刘武周的大军就杀到了晋阳城下。这令齐王李元吉是十分的恐慌，于是他连夜携其妻妾是弃城而去，至此让刘武周是攻占了李家的发祥之地。
当李渊在得知此事后，这才相信了宇文歆呈递的奏表，于是一怒之下便免去了李元吉所有的职务，并让他在家中好好反省。
而刘武周在攻占了晋阳之后，他又派遣宋金刚南下进攻晋州。当晋州也被攻陷之后，刘武周的大军又进逼绛州，并很快又占据了龙门。而就在刘武周继续攻占浍州时，夏县吕崇茂自封为了魏王，并与刘武周是前后呼应。而隋朝旧将王行本也占据了蒲坂，并与宋金刚是互相联合了起来。
至此山西大部尽归刘武周统辖，而李唐却只剩下了晋西南黄河东岸的一隅之地。刘武周的强势使得关中各世家门阀受到了极大震动，甚至连李渊也处在了惊慌失措之中。
当萧墨宸也获悉了此事后，不由得笑了笑，道：“刘武周的强势并不会持续太久，只要那李渊放出了李世民这头猛虎，刘武周的势力便会土崩瓦解。不过刘武周这家伙倒是给本王争取到了不少的时间，只要本王说服那杜伏威来投，整个扬州便会在本王的掌控之中了。来人，加速前进，并尽快赶到历阳。”
而就在萧墨宸赶往历阳之时，李渊果然派出了秦王李世民，并让他率军征讨刘武周。李世民带兵从龙门渡过黄河之后，便驻扎在了柏壁，并与刘武周的大将宋金刚是对峙了起来。而此时的裴寂正率兵讨伐夏县的吕崇茂，可惜裴寂性格怯懦，没有将帅的才干，不仅没能收复失地，反而被吕崇茂打败，迫使他不得不逃回了长安。