李密归唐后，从前在信中对自己亲热过份的“老哥”李渊相待甚薄，只拜光禄卿的散官。不久，唐朝听说李密降于王世充的旧将纷纷离心，就派李密前往黎阳招降旧部。心怀怨望的李密行至洮阳，高祖李渊又派人召还他，疑惧之下，李密决定反唐。王伯当一直劝他不要反唐，但见李密意决，就横下心，说：“义士之立世，不以存亡易心。我一直受您厚恩，期待以性命相投。您不听我劝告，我肯定会和您一道起事，生死以之，但是恐怕结果也不会好啊。”隋唐之际，英雄辈出，男儿义气相应，很是感人，诚为我中国人作人的样板。唐将史万宝、盛彦师早有准备，伏兵山谷，横击李密及王伯当等人，众人皆被杀。李密时年才三十七岁。虽然《旧唐书》称他“狂哉李密，始乱终逆”，但字里行间也不得不佩服此人的倜傥奇才和爱人下士的仁德大度。
李勣听说李密被诛，上表请唐朝容许他收葬故主，唐庭诏许。李密服重孝，与从前僚属旧臣将士隆重地把李密安葬于黎山之南，坟高七仞，以君礼葬之，朝野闻讯都赞叹他的忠义。
不久，窦建德军擒斩弑隋炀帝的宇文化及，乘胜又大败李勣，并以其父李盖为人质，令李勣仍守黎阳。转年，李密趁机又归唐，有人劝窦建德杀掉李盖，可建德也是位磊落大夫，表示说“李密忠臣，各为其主”，派人送李盖归唐。后来就一帆风顺。李密协同李世民连平王世充、窦建德、刘黑闼、徐圆朗、辅公袥等人，功勋赫赫。其间，还有一个插曲可述。单雄信投王世充后，极受宠遇，也很卖命。李世民攻洛阳时，有一次与单雄信相遇，雄信号为“飞将”，艺高胆大，援枪直刺李世民，好几次差点追及把这位秦王捅落马下。（此事可见尉迟敬德传。有逸史记载李勣当时在旁，对单雄信这位老哥们说“此秦王也”，“雄信惶惧遂退”，这肯定是小说家语，绝不可信，以单雄信性格，他肯定会枪挑李世民向王世充报功。王世充投降后，李世民把与唐军苦战的十几名大将列入处决名单，李勣泣请，以自己家财爵位换这位老哥们一命，由于先前差点被单雄信杀掉，李世民坚执不允。李勣无奈，与单雄信诀于大狱。单雄信埋怨他，“我固知汝不办事”。李勣大哭，用刀从腿上割下一块肉给单雄信吃掉，说“本来想随仁兄一起死，但谁来照顾你的家人呢。此肉随兄入地下，以表我拳拳真情。”单雄信死后，李密如家人般照顾他的妻子儿女，确是千古义气的典范。
贞观十五年，拜李勣为兵部尚书，还未赴京上任，薛延陀部又侵扰李思摩部落。李勣获唐廷委任为朔州行军总管，率轻骑三千追薛延陀于青山，大败敌师，斩名王一人，俘五万多人。（薛延陀部为匈奴别种，为铁勒族，对唐朝时叛时附）。回朝后，李勣遇bào疾，药方上讲治此病胡须灰可以做药引。唐太宗听说后，自剪胡须，为李勣和药。儒家礼仪，身体发肤受之父母，一般人都不会轻易损伤，何况九五天子，亲剪“龙须”为臣子做药引，诚为千古美谈。（明太祖朱元璋把大便晒gān后也分赐臣下，还得让臣下谢恩大赞这种烘gān的“huáng龙汤”，显然就是bàonüè王八蛋所为，是朱家天子的一贯作风，同唐太宗此举相去十万八千里）。李勣叩首见血以谢，感动得一塌糊涂。太宗说：“吾为社稷计耳，不烦深谢！”不久，君臣宴饮，太宗醺然对李勣 讲：“朕将以太子托付于您。您往年不负李密，今日必不会负朕。”李勣雪涕，誓以必死。俄而沉醉，太宗亲解御衣为这位勋臣盖上以免着凉，如此宠遇，古今罕有。
贞观十八年，李勣跟从太宗伐高丽，攻破辽东、白崖等数城。贞观二十年，又率军大破薛延陀部，平定碛北。
贞观二十三年，太宗李世民病重，临崩前对太子说：“汝于李勣无恩，我现在把他责出外贬。我死后，你再以新皇名义授他仆she（宰相）之职，受汝恩遇，李勣必致死力。”于是，诏出李密为叠州都督。其实，太宗大不可和李勣这样重义气的人玩这一手，有些人英明一世，却糊涂一时。李密也是一样，大败于王世充后，如果去投李勣，说不定东山再起，江山姓“唐”姓“魏”还都不一定。他也和太宗一样，以“小人”之心度君子之腹，认为李勣会因杀翟让时被砍重伤会怀恨在心，结果转路归唐，最后是龙虎入牢，再无出头之日。
高宗即位后，立拜李勣为尚书左仆she。永徽四年，册拜司空。李勣为人小心谨慎，对于皇帝家事一概不过问。后世都因他不反对高宗立武后一事颇有微词，笔者独以为不然。皇帝椒房内事，外臣权位再高，血缘再亲，掺和入宫闱之事无论成败，最终难逃一戮。李勣又非皇亲国戚，为人又深沉谨慎，加之太宗托负他的是社稷国事，所以他的表现实为中允，并非油滑臣下所为。因此，武后对他非常亲切，对待李勣的老姐还亲自临问，赐以衣服，家人一般。
高宗乾封元年（公元666年），高丽权臣（官号莫离支）盖苏文病死，其子男生继掌国事，另外两个儿子男建、男产发难，驱逐男生。男生逃奔唐朝，恳求唐朝发兵相助。高宗任李勣为辽东道行军大总管，率军征高丽。乾封二年二月，李勣大军渡辽水，攻拨高丽重城新城。李勣一路连捷，直抵平壤城南扎下大营，男建不断派兵迎战，皆大败而还。不久，城内人投降唐军为内应，大开城门，唐兵四面纵火，烧毁城门，男建窘急，自杀未死。平壤城最终被攻下，唐朝共获一百七十六城，六十九万七千户。至此高丽国灭，分其地置九个都督府，四十一州，一百县，设安东都护府统管整个高丽旧地。自隋文帝以来，屡伐高丽，无一成功。隋炀帝四次伐辽，因此亡国。英明神武如唐太宗，御驾亲征，也因天寒少粮而无功罢兵。高宗继位，前后派兵部尚书任雅相、左武卫大将军苏定方、左骁卫大将军契必何力多次征讨，皆无功而返。直到李勣老将出马，乘高丽内乱，加之指挥有方，一举讨灭东边这个多年难拔的“钉子”，想必隋、唐几位皇帝如果地下有知，肯定惭叹不已。
李勣回国后不久，因征伐劳累而病重，卒，年七十六。高宗亲为举哀，辍朝七日，赠太尉，谥曰贞武，陪葬昭陵。
李勣一生，经战阵无数，所得赏物，大都分赐手下将士。大功成就，常推功于别人，故而人尽死力。重病后，只服皇帝送来的御药，家里人延请的的大夫一律不见。他说：“我山东一田夫耳，攀附明主，滥居富贵，位极三台，年将八十，岂非命乎？修短必是有期，宁能就医人求治！”临终之时，李勣忽然让其弟李弼置酒宴乐，堂下子孙满排而立。他对李弼说：“我自知必死，怕你悲哭，所以假装病情转好为此宴乐。你现在脑子清醒，听我讲话。我亲见房玄龄、杜如晦、高士廉等人辛苦建立门户，都被后辈破家亡人。我这些不肖儿孙，现在都jiāo付给你，应细加防察，如有操行不伦、结jiāo非类，马上打杀，然后奏之，以免倾覆家族……”