李渊装做不得已的样子，说：“那好吧。大家既然把责任都压在我身上，我也就不客气了。当前的情况，没有别的妙策，只有募兵一条了。”
军事会议上定下了调子。李渊立即命令李世民、刘弘基、长孙顺德在各处设立招兵站，大力宣扬保护太原的意义。十几天的时间，竟也募兵万余人。
兵多了，人也就有了底气，望着一个个新兵，李渊非常高兴，拤着腰在那里站着，仿佛看见自己率领千军万马扫平群雄，挺进长安，建立帝业。这时李世民走过来，问父亲：“父亲，新兵何处安营为好?”
李渊看着越来越出息的二儿子，心中喜悦，想起宫女侍睡那档事，觉得儿子还真不是一个平凡的儿子。他看了看李世民，大手一指远处的兴国寺说：
“勤王之师，不谋而至。此其兴国之地焉。吾李家新兵可于此寺安处。”
◎将王、高二人处斩
新兵募来，在曾经当过军官的长孙顺德、刘弘基的带领下，日夜操练。为了削弱王、高二人的力量，李渊以工作需要为名，派王威兼任太原郡丞，与裴寂一块掌管军粮，负责军队的供应。又命高君雅去守高阳县，巡守城池。而所募新军的一切事务，均由李世民、刘文静来掌握。
四月底，突厥始毕可汗果然没有失约，派遣柱国康鞘利赶着战马千匹来到晋阳。康鞘利见到李渊，呈上始毕可汗的书信说：“只要唐公依附可汗，要人要马，可以随意。”
李渊读完可汗的信，对康鞘利说：“我李渊愿做可汗永远的朋友。人情我领了，代我谢谢可汗。兵我就不借了，一千匹马，我买下一半吧。”
李渊除掉付了五百匹的马钱，又厚赠康鞘利许多金玉珠宝，以期他能在可汗面前多多美言。众将士见唐公只选五百匹好马买下，以为唐公没有钱了，纷纷涌到留守府，要求用自己的私囊钱买下选剩的五百匹马。李渊对大家说：“不是我不想要那五百匹马，也不是没有钱买。我是怕始毕以马多而贪利，将源源不断送马来让我买。此次只买其半数，是让其知我资财无多，打消其觊觎之心。以后在战场上，只要我等奋力杀敌，何愁没有马匹可用。”
王威见大张旗鼓地招兵，又买来突厥的许多战马，心下疑虑，怕李渊父子心怀异志，于是派人把高君雅从高阳请来，两人密谋一阵，决定一齐去见主管兵器盔甲的武士彟探探情况。
见了面，王威就问：“武参军，最近置办旗帜军服的情况如何，是否按隋制统一的规制定做?”
武士彟奉李渊的密令，向来不显山不露水，平时做出依附王、高二人的样子，见二人问这事，故作诧异地说：“募兵是为朝廷使用，兵乃国家之兵，服色、旗帜当然按国朝颜色、样式定制，不信我打开库房，让二位大人看看。”
王、高二人见武士彟说得肯定，言之凿凿，无什么可疑处，盘桓了一会，但仍愤愤地说：
“长孙顺德、刘弘基等，皆为征辽亲侍，临阵脱逃，犯法当死，如今亡命到此，却让他们统兵，分明另有目的，瞅机会非把他俩抓起来不可，审问个明白。”
武士彟听了这话，心里很着急，表面却假装好意婉言劝道：
“二位大人忠心为公，遇事认真，可敬可佩。然长孙顺德和刘弘基乃唐公的贵客，若贸然逮捕他们，必然会引起纠纷，恐于大事不利。”
“这事不能就此拉倒!”王威恨恨地说道，而后与高君雅一起走了。俩人前脚刚走，武士彟就出了门，直奔李府，把王、高二人的怀疑禀报给李渊，并关切地说：
“王、高二人虽没有多少兵权，但手中仍有兵马和亲信，唐公要多提防他俩。实在不行，要先下手为qiáng啊!”
留守司兵田德平见李渊大规模地募兵，并向突厥买马，也怀疑其有意图，想劝王威过问募兵之事，但举棋不定，怕事情不利连累自身，于是找好友武士彟商量。武士彟推心置腹地跟田德平说：
“公为朝廷着想，这本是好事。但讨捕的兵马，均属唐公掌握。王威、高君雅虽是副留守，但却徒有其名。没有多大的作为。你纵使向他们告发，也于事无补。你何必又去得罪唐公，自寻烦恼呢!”
田德平觉得武士彟分析得有道理，于是将这事压了下来，对李渊欲起兵一事，睁一只眼闭一只眼，佯作不知。太原的局势却越来越紧张，越来越明显，募来的万余新兵均归李渊的亲信所领导，每日操练也不讲对付刘武周的事，宣扬的多是隋室无道、天下兵争的事。晋阳街面上也到处传言李渊将要发动兵变。
在这种形势下，王威、高君雅渐渐觉出事情的可怕，若李渊起兵，第一将斩他俩的头。密报朝廷已来不及了，远水解不了近渴，现如今只能自己救自己。先下手为qiáng，后下手遭殃。王威、高君雅决定采取非常措施，除掉李渊。
进入五月，晋阳有两个月没下雨了，庄稼被越来越热的阳光烤得蔫头耷脑的。照陈年老例，将在晋祠设祭祈雨。为了突出祈雨的隆重性，晋阳乡长刘世龙专程赶往王威的府上，请他祈雨那天光临助兴。
当得知祈雨那天李渊也到场时，一个点子猛然从王威的脑子里冒了出来。李渊募兵买马，磨刀霍霍，反相已露。何不乘此机会将李渊除掉!
于是王威与高君雅密谋一番，便开始准备兵马了。岂知对此有所察觉的刘世龙已将此事汇报给了李渊。这边李渊也已在晋祠附近布好了亲兵。
及至祈雨的那天，在李渊的安排下，开阳府司马刘政会突然出现，将一密状呈给李渊。“密状”中称王、高二人引突厥入关。直到这时，王威、高君雅才发觉上了人的圈套。不容分说，已被人五花大绑，押回城中。
吉时已到，李渊则在刘世龙等人的陪同下，来到前院的祭台，与老老少少一起，向台上的龙王爷献香祷祝，顶礼膜拜，祈望龙王爷能给久旱的大地普降甘霖……
事有凑巧，刘政会告王威、高君雅勾结突厥入关，第三天，即五月十七日，突厥发数万骑兵袭击太原，其轻骑兵在太原城外，往来驰骋，极为骄横。李渊决定利用智谋使突厥退兵，一来不伤与突厥的和气，二来让突厥看看李渊的实力，让其从此不敢小瞧。突厥来犯，正应了刘政会的“密报”。在对付突厥的军事会议上，分派完各路兵以后，李渊命令道：
“人告发王威、高君雅勾结突厥，今果然如此，立即将此二人处斩，祭旗出兵!”
将王、高二人处斩后，单说李渊沉着冷静，命裴寂、刘文静等分别守备太原诸城门。且令城门大开，城墙上不树旗帜，守城将士皆蹲在城垛后面，不许出声。唱一出空城计，以迷惑突厥。空城计毕竟是空城计，为防不测，李渊命李世民率jīng锐骑兵，乘黑夜悄悄出城，占据险要的地方，一旦太原城有何不测，即从背后突袭突厥。
◎把高德儒推出斩首示众
为进一步迷惑突厥人，李渊又命部将王康达率所部千余人，黑夜出城，白天入城，大张旗鼓装作援军的样子。