李世民继位后成为唐太宗，太宗鉴于自己的谋臣将士功劳很大，开始对各大臣论功行赏，太宗认为房玄龄、杜如晦、长孙无忌、尉迟敬德和侯君集应当论功第一，命房玄龄晋爵为邢国公。而太宗叔父淮安王李神通却认为，政变时是他率兵先到现场的，而房玄龄、杜如晦只不过是在幕后动动笔墨，在评功之时房杜等人排第一，他心中不服。太宗反驳说，“起义刚刚开始的时候，每个人心里都有自己的想法。您虽然率兵前来作战，那也是因为惧怕因此会株连九族被杀掉，而且从未亲自上阵打过仗。与窦建德交手，您还曾全军陷没；后来刘黑闼起兵，您又望风败逃。如今论功行赏，房玄龄等人运筹帷幄，帮助我安定国家，这样的功劳和汉朝萧何相同，虽然他没有上战场杀敌，但无他的计谋，今天的胜利又是从何而来呢？当然应该评为首功。叔父您为国家至亲，我并不吝惜封赏您，但不能因咱们之间的私情就将功臣的成绩给淹没了呀！”一席话之后，李神通无言以对。公元630年，即唐太宗登基的第四年，房玄龄任尚书左仆射，行宰相之职。
辅佐太宗成就霸业
自李世民继位之后，房玄龄一直承担着辅佐李世民的重任，直到病故。可以说房玄龄把自己的一生都奉献给了唐朝初期的建设。在这将近二十年的时间里，房玄龄一直兢兢业业，丝毫不敢懈怠地履行着自己的使命，他的贡献为“贞观之治”盛世的出现奠定了重要的基础。在此期间，房玄龄主要有以下的贡献。
首先，因为唐朝初年的时候，官僚机构极其臃肿，有了事情到官府里面都是互相推诿，官员的人数特别巨大。在李渊打天下的过程中，急切需要人员补充到队伍中来，在向关中进军的过程中，民间年纪在七十岁以上的，就任命一个官职给他，而并没有具体的让他们要做的事情。其余的才智杰出的人员，根据他的才能授以相应的官职，草草的询问他一下所擅长的能力，马上就授予他官职，一天就能任命官员将近千余人。所任命的官员们，都来不及拿上授官时发给的文书凭证，就各自拿着李渊给他们写的官名就走了。这些原因，直接造成了贞观初年，唐朝的中央管理机构的臃肿，官员人数的极其膨胀，而且所用到的官员的品质、能力也是良莠不齐。
房玄龄根据唐太宗“要把国家治理好，最根本的就在于用人要谨慎。根据才能大小授予官职，一定要减少官员人数”的原则，开始对中央机构进行了大刀阔斧的改革调整，对所有中央官员重新进行了考核。依据考核的成绩，再从中筛选优秀者，留在朝廷继续效力。最终把朝廷文武官员减少到六百四十三人。这个数字跟隋朝朝廷官员二千五百八十一人相比，减少了整整四分之三。在这项动作极大的政治改革过程中，触及到了许多人的切身利益。但由于房玄龄的工作周密稳妥，大得人心，顺利地完成了这项艰巨的任务，没有引起任何局势的动荡和不安，并且在大臣中树立了自己的威信。
其次，在隋朝末期，朝廷中官员消极待命，办事推诿，而且在房玄龄缩减官吏之前，唐初政府机构臃肿。这些都造成了官员们办公效率低下的现状。为了整顿这一现象，房玄龄开始了对整个中央管理机构内部纪律进一步的改革。主要是为各项官吏管理制定了相应的制度和法规，保证了各个官员在他所任的职位提高效率。如：《唐律·职制》其中包括，明确对很多违反朝廷管理的行为提出了严格的惩罚措施。如：各级主管一旦擅自增加自己一级的官员，依数量而定，给以惩罚，超编一人杖责一百大板，超编三人以上再加一百大板，超编十人将会处以徒刑两年。为了防止官员出现在其位不谋其政的现象，房玄龄在《职官法》、《考法》中还对各级行政机构的职责进行了细化，明确了每一个职位的责任所在，并且对官员的考核作出了详细的规定。而且严格了各级官员的轮流值班，每日执勤的制度，要对执行情况作出考核，如果没有达到考核标准将会受到惩罚，《唐律·职制》中规定：“各级官吏每日出勤要进行”点检“如果点名不到，一点笞十；各级官吏必须值班或轮流值宿，如果应该值班没有值班或者应该值宿没有值宿的各笞二十”。对官员执行公务出现错误，办事拖拉，也作出了极其严格的惩罚规定。房玄龄用这些相关的措施、制度和法律约束了官员超编，使贞观年间机构精简，官员办事效率很高，政府官员各个精于自己的职责，廉洁奉公。
房玄龄不仅对中央管理机构内部纪律进行了进一步的改革，而且对整个国家的法律也做了相关调整。隋朝法律苛刻使老百姓民不聊生，所以在高祖李渊起兵之时，就宣称要制定宽大的法令，这也吸引了许多深受隋法令折磨得老百姓参加唐军。唐太宗即位后继承了高祖对于法令“宽平”的原则，让房玄龄负责修改法令制定并在《贞观律》于贞观十一年昭告天下。《贞观律》中充分体现了唐太宗宽仁慎刑的思想，将过去兄弟之中有一人造反，株连九族的刑法减轻到祖孙兄弟有关联者都被发配的程度。房玄龄和魏征都赞成用宽平的法令治国，而不是用严厉的法令来威慑人民。在这种思想下，制定的法令有效地缓解了阶级矛盾，稳定了唐初的社会局面。而且由于《贞观律》制定得比较系统，且便于实施，所以成为了以后各个朝代立法的典范。为我国封建刑法的制定展开了崭新的一页。
第三，一个国家需要有众多优秀的人才来支撑，才可能一直保持自己的强大和昌盛，所以朝廷选拔人才，运用人才是非常重要的一关。房玄龄有自己的用人策略，为唐玄宗招揽了大批的人才，而且知人善任，总能将人才放在他应该在的位置上。
房玄龄经常细心地观察周围的人，只要发现有很好的才能的人，就一定会给唐太宗推荐。例如：唐太宗的太子晋王李治(即后来的唐高宗)宫中，有一位负责太子宫的保卫工作的李大亮，这个人为人耿直，有汉朝忠臣王陵、周勃的气节，并且极其有才华，可以承担起重大的职责。房玄龄发现以后，就直接向唐太宗推荐这个人。后来李大亮凭借着自己出色的才干，赢得了唐太宗的信任。被任命为房玄龄的副手，和房玄龄一起在宰相府工作。
房玄龄善于发现别人的长处，并且依据他的特长来安排他的职位，并给予他最大的支持。比如：李靖、李绩骁勇善战，在军事上有杰出的才能，就让他们去带兵作战，给予他们兵员上的支持，日后确实看到成绩。魏征、王跬忠直敢谏，就将他们安排到唐太宗身边去做官员，随时可以提醒唐太宗不要犯错误；戴胄公正不阿，就让他去做执法官，这样可以让法政严明，给执法官们树立一个好的典范。这样的用人方式，带来了很好的效果。这些人为贞观之治都竭尽才华，大放异彩。
房玄龄善于与人配合。一方面，可以为自己的工作找出不足，另一方面可以展现出其他人的长处。其中与房玄龄配合得最好的要数前文中所说的房玄龄努力保荐在唐太宗身边的杜如晦了。杜如晦的长处是善于判断，有人评价杜如晦是：当时国家事情虽然非常多，但杜如晦能够对每一件事情都剖析得非常清楚，当时的文武大臣深为折服。房玄龄深深地知道杜如晦的长处，所以常常是房玄龄和唐太宗做好事情的谋划，然后等待杜如晦对此做出相应的判断，房玄龄说：没有杜如晦商定，政事就无法确定下来。但等杜如晦来后，杜如晦的方案往往都能和房玄龄的主张相互默契。所以史学家就评论说：“房玄龄知道杜如晦能够决断大事，杜如晦知道房玄龄擅长考虑非常好的计谋。”他们相辅相成，留下了“房谋杜断”千古美誉。
房玄龄善于发现人才，而且对人才的要求也是很严格的，绝不允许一个不合格的人才被安排到朝廷中来。在贞观盛世时，尽管朝廷中人才众多，但每一个都是房玄龄精心挑选后安排到宫中的。房玄龄在挑选人才上，坚持宁缺毋滥的观点。朝廷有关部门缺乏人员时，如果一时找不到十分适合的人才，房玄龄宁可空着这个职位，自己来做这个工作，也不会让一个不合适的人来做这个工作。虽然，身为宰相的房玄龄本身已经是公务缠身，但因为他对人的严格，他宁可让自己再多承担一份工作，也不会将国家的关键工作放在没有责任心的人手中的。例如根据史料记载，在唐朝的一个时期，朝廷中管理财政支人支出的部门缺少一个合适的人选，房玄龄在几经思考，发现暂时没有一个特别合适的人员可以担当此位置后，就让这个职位空缺，自己帮助管理。这样的做法遭到了众多官员的讥讽。他们认为房玄龄是不舍得将自己手中的权力放开，想做一个集权者。而房玄龄宁可受到大家的讥讽、嘲笑，也决不轻易地将二个不合适的人放到这个职位上。这就更好地体现了房玄龄的用心良苦，和他的用人的政策。