因为隋代是个短命的王朝，只经历了两代帝王，所以还没有来得及完成修史的工作。魏征在主修《隋书》前，已有王劭写的《隋史》十八卷和王胃的《大业起居注》，但王劭的书没有一定的体例，编排散乱，再加上王胃的《起居注》又在隋末战火中散失很多，所以不够完整，因此可供魏征参考使用的资料并不多。但因为两个朝代相隔的时间不是很久远，魏征就经常到民间去亲自访问那些隋朝的遗老，去收集在民间散落的一些纪录当时史实的只言片语。如孙思邈对以往的历史很了解。对很多事还记得很清楚，魏征就曾几次拜访他，从他那里得到很多第一手的宝贵材料。此外，他还很重视私人家传的收集和研究工作，从中也弥补了官撰史书的不足。
我们常说，文如其人，《隋书》的主编魏征为人耿直，个性刚正不阿，所以他所主编的这部史书，较少曲笔。如魏征评价隋文帝时，说文帝性格刻薄专断，平时不喜欢读诗书，懂得道理很少。又说隋炀帝懂得处处掩饰自己，博得父王的欢心，但品质恶劣，最后杀父淫母，剿灭自己同胞骨肉，残害忠良，犯下了滔天罪行。这些情况，魏征并没有因为这两个人是至高无上的帝王就有所回避，而是照实写来，不加隐讳。其次，《隋书》中的序和论，齐、梁、陈书中的总论，都是魏征亲自撰写的。这些短论都是总结和评论历史得失的精辟语言，集中反映了魏征的民本思想，魏征重视人民群众在历史中的作用，以进步的眼光看待历史，就能比较深刻地揭示出历代王朝特别是隋亡的政治和经济原因，这些都是很有价值的历史论述。最后，《隋书》中保存了大量的政治、经济以及科技文化的原始资料。总之，《隋书》五十五卷在“二十四史”中是比较好的一部断代史。
贞观十年(公元636年)正月，历经七年，五部史书同时修成，由房玄龄和魏征共同署名，上呈给唐太宗。唐太宗对他们能在这么短的时间内，完成对五个朝代历史的编纂工作，十分满意，对参与编书的人员都有嘉奖。魏征因为担任总监，所以得到的赏赐特别丰厚，唐太宗又加封他为光禄大夫，晋爵郑国公。
居安思危戒骄戒躁
唐建立后，经过一段时间的发展，国家安定，人民乐业，唐太宗开始逐渐流露出居功自傲的苗头。魏征看到这个情况，就借着和唐太宗等人讨论创业与守业之难时说：“历史上的任何一个帝王刚建立一个新的王朝的时候，都能赢得百姓们拥戴，所以创业相对容易。但是当创立政权时间一长，由于当权者骄傲自大，百姓想要安静过日子，国家却使他们的徭役不断，这时百姓又受到新的压迫，于是，国家又将衰败下去，又会有新的祸患产生。从这个角度讲，还是守业更难一些。”虽然这里，魏征对出入生死的创业之难轻描淡写，但分析守成之难却是一针见血的。
魏征针对这种情况，进一步提出，要守成帝业，使国家能够长治久安，最重要的就是做到居安思危。贞观五年，当太宗与群臣闲谈时说到，现在国内相安无事，周边的外族纷纷来臣服大唐，但自己仍然是非常谨慎，害怕不能把这个局势保持下去。但是魏征却又开始唱反调，说：“看到现在国内外一片升平的景象，我并不认为这是您的喜事。我认为，您能在安定的环境中经常警惕祸患来临，这才是真正值得可喜的事情。”魏征分析得非常对，因为历史上有很多这样的典故，许多帝王都是居安忘危，沉浸在成功中，所以才导致了亡国的后果。魏征能够在一片平和中看到危险的存在，显现出魏征政治眼光的敏锐。
因为抱定了居安思危的思想，所以魏征特别留意观察太宗在政治上和思想上的变化，及时提醒他注意。我们都知道《诗经》上有这样一句话“靡不有初，鲜克有终”，说的是，做人、做事、做官没有人不是好好地开始的，但很少有人能够好好地坚持到结束，这表明了很多人做事情常常虎头蛇尾、半途而废。魏征作为皇帝身边的大臣，是太宗最信任的官员之一，最担心的就是太宗不能把辛苦开创的大唐基业坚持下去。所以，在很多的场合中，魏征总是给太宗毫不客气地提醒。
如贞观六年(公元632年)，太宗询问左右的大臣近来政事如何时，魏征坦言，如今的政事不如贞观之初了。唐太宗让魏征说明原因，魏征说：“在贞观之初，陛下您能做到凡事节俭，虚心向属下纳谏。但是现在进谏的人好像是比以前少多了。”太宗听了心悦诚服，表示惭愧。
贞观十一年(637)五月，魏征呈上《谏太宗十思疏》，说：“您现在对待政事的态度不如您当初开创基业时积极奋进了，您现在听到意见后改正错误的次数也少于过去了，而且您对下属的责罚明显增多，您也越来越威严，总是爱发怒了。您知道这是为什么吗？这是因为您以前总是为不知该如何治理好国家而感到忧愁，所以您总是抱着虚心学习的态度；但现在您看到天下太平，所以您的关注点转变了，当然态度也就跟着变了。”接着，魏征列举了很多太宗勉强从谏的事例，说明现在很多状况都与贞观之初太宗从谏如流的作风大不一样了。对于魏征这样的当面批评，太宗非但没有生气，而是表扬他：“这样的话也就是你魏征敢说罢了。”后人评价说，魏征基本实现了他写这篇奏疏的初衷，遏制了唐太宗骄傲自满情绪的滋长。这足以说明魏征对唐太宗李世民的影响力。
贞观十三年(公元639年)五月，魏征再一次全面、系统地总结了政事不如贞观之初的事实，上奏太宗，这就是着名的《十渐不克终疏》。上文的《谏太宗十思疏》和这篇《十渐不克终疏》被历代史家赞颂为“千古金鉴”和“万世师表”。
疏文批评了唐太宗日渐增长的骄满的情绪，辞强理直，淋漓尽致。魏征在疏中列举了太宗搜寻良马和珍宝、劳役百姓、亲近小人、疏远君子、崇尚奢靡、频于打猎游乐、对周边国家无事兴兵、使百姓疲于徭役等不克终十渐，再次提醒太宗要善始善终。唐太宗看了奏疏后，欣然接纳，感慨地对魏征说：“我现在知道自己错了，我要改正，一定会听从你说的正确的道理，如果知错不改的话，我还有什么面目见你呢？我要把你的奏疏写在屏风上，以便我早晚都能看得到。我还要把它抄写给史官，使后世的人都明白君臣相处的道理，了解到你的一片苦心。”并赏赐给魏征黄金十斤，宫中良马二匹。后人于是就把写有这份奏章的屏风称作“戒奢屏”。
积劳成疾与世长辞
贞观十七年(公元643年)正月，魏征因为常年的辛苦，终于染病，卧床不起。唐太宗亲自下手谕慰问，并说：“几天没有得到你的监督，朕又犯了一些新的错误。今天本想亲自去你的处所探望你，但是害怕增加你的劳顿。你要是对朕有了什么好的建议，可以给朕捎个口信带进宫。”魏征病榻之上，不顾疾病缠身，又给太宗提了一些意见，对太宗近来言行不一的做法提出了批评。太宗对魏征带病还关心着国家的大业非常感动。这时，唐太宗知道魏征平素为官清正，生活简朴，家里连正厅也没有，就停止了给自己正在修建的一座便殿，把建筑材料拨给魏征，用五天的工夫就给魏征修起了正厅。建成之后，又根据魏征的喜好，赐给他白色的屏风和被褥、几、杖等家里常用的器物。但魏征的病始终没有起色，唐太宗就不断地派人给他送药品和食物，并派专人到他家守护，随时把病情报告给自己。
后来，唐太宗还亲自两次到魏征家探望。第二次还带上了太子和衡山公主，魏征看到唐太宗亲自来看他，勉强在床上披着朝服，强拖着病体拜见了太宗。唐太宗悲伤地安慰他好好养病，流着眼泪问他还有什么要求。魏征说：“我不发愁别的小事，只是担忧国家的兴亡啊！”唐太宗看到魏征都病成这个样子了，还关心着国家大事，鼻子一酸，又流下泪来，这时唐太宗拉着衡山公主对魏征说：“你再勉强看一眼你的新儿媳吧！”可是，魏征这时已经没有答谢之力了。当天夜里，唐太宗梦见了魏征，神色与平时一样，太宗不觉从梦中惊醒。可是第二天早晨，魏征就与世长辞了，终年六十四岁。唐太宗亲自到魏征家里吊唁，哭得非常悲伤。为了表示哀悼，唐太宗命令罢朝五天，并命令文武百官都去参加魏征的丧仪。还赠魏征为司空、相州都督，陪葬在昭陵。唐太宗对魏征这样高的礼遇，表达出二人不同寻常的感情。但是，在临发丧的时候，魏征的妻子裴氏照魏征的夙愿，上书给唐太宗：“魏征生前素来节俭，现在按一品官的礼节安葬他，仪仗这么隆重，恐怕不合他的心意。”唐太宗同意了，于是改用白木制的车子和白布缝的车帷来送葬。唐太宗悲痛之余，登上御苑中的西楼，望着魏征的灵柩西去，放声痛哭。太宗还亲自为魏征撰写了碑文，表达了对魏征的思念之情。
魏征死后，唐太宗每次想到魏征都非常伤心，经常对大臣们说：“人们用铜作镜子，可以端正衣冠；用历史作镜子，可以知道历史的兴衰；用人来做镜子，可以了解自己的得失。今天魏征死了，朕失去了一面镜子啊！”唐太宗把魏征看作是了解自己得失的最好的一面镜子，所以他认为魏征的死对他是一个很大的损失。确实如此，从魏征跟随太宗的那一天起，就担任起辅佐太宗的重任，可以说是太宗的良师，更是诤友，所以唐太宗对魏征的这一评价，应当说是相当公正的。
后来，唐太宗在论定功臣的时候，还在凌烟阁内让人画了魏征等二十四个功臣的肖像，给了魏征很高的待遇。有一次，唐太宗又来到凌烟阁，望着魏征的画像思绪万千，于是吟诗道：“劲条逢霜摧美质，台星失位夭良臣。唯当掩泣云台上，空对余形无复人。”字里行间流露出对魏征的怀念。
但是，唐太宗对魏征的这种特殊礼遇，引起了某些人的妒忌，他们就想方设法编造出各种流言蜚语，贬低魏征，试图挑拨唐太宗和魏征的关系。当时经魏征举荐入相的杜正伦、侯君集两人因为牵连到太子承乾事件，一个被流放，一个下狱被杀。这时有人借机攻击，说魏征推荐他们二人，是因为魏征和他们结为朋党，并不是因为这两个人有真才实学，魏征这样做纯粹是为了牟取私利。又有人说魏征曾经将先前进谏唐太宗的奏章抄录给史官褚遂良，是为了使自己名扬千古，但却宣扬了君主的错误。太宗信以为真，很不满意，终止了衡山公主与魏征的儿子魏叔玉的婚事，还下令毁掉了自己给魏征写的碑文。自此，魏征的家族也开始衰败下来。直到贞观十九年(公元645年)，太宗御驾亲征攻打高丽，由于受到强烈的抵抗，且气候突然转冷，粮草供应不上，唐太宗被迫率军撤回，这次战役，唐军惨败，战士死伤数千人，战马损失十分之七八。唐太宗在回朝的路上，非常悔恨这次行动，这时他突然想起了魏征，不禁慨然叹息说：“要是魏征还活着，他一定会竭力劝阻朕的。朕也就不会有这次失败了。”于是，他马上命人以少宰的礼节去祭祀魏征的坟墓，又重新立起先前推倒的纪念碑。
综观魏征的一生，仕途坎坷，起起落落，在三易其主的过程中终于遇到了他的知遇之主——唐太宗李世民。两人精诚合作，一个忠言直谏，一个虚心纳谏，开创出唐朝辉煌的贞观之治的局面。虽然，魏征和唐太宗之间也产生过摩擦和误会，但总的说来是合作得比较好的君臣典型，所以唐太宗也一直把魏征当作恩师来看待，听从魏征的教诲，在魏征的生前和身后都给了他很高的礼遇，虽然中间出现了一些波折，但从结果看还是好的。从两人多年的合作中，表现出了二人超越君臣的特殊的感情，对此，后人也给予了很高的评价。