在隨李世民征戰時，凡王府書檄，駐馬即成，言簡意盡，不需起草。唐武德四年曾被招為“十八學士”之一。唐太宗李世民即位，封房玄齡為梁國公。官任中書令、尚書左仆射、司空等職，總領百司，掌政務達20年。參與制定典章制度，主持律令、格敕的修訂，監修國史，又曾與魏徵同修唐禮；調整政府機構，省并中央官員；善于用人，不求備取人，也不問貴賤，隨材授任；恪守職責，不自居功。同時負責國史館，先后監修成《高祖實錄》、《太宗實錄》、《晉書》。去世后，謚號“文昭”，后配享太宗廟廷。后世以他和杜如晦為良相的典范，合稱"房、杜"。

出身官宦

房玄齡出生于官宦之家，其曾祖房翼，后魏鎮遠將軍、宋安郡守，襲壯武伯。祖房熊，字子，釋褐州主簿。父房彥謙，好學，通涉《五經》，富有辯才，是魏、齊間的山東學者。

年少有為

房玄齡自幼耳濡目染，頗承其父遺風。自幼聰慧，善詩能文，博覽經史，精通儒家經書，又向父親學得一手好書法，工草隸。18歲時本州舉進士，先后授羽騎尉、隰城尉。

亂世投主

隋朝末年天下大亂，李淵率兵入關，玄齡于渭北投李世民，屢從秦王出征，參謀劃策，典管書記，任秦王府記室。每平定一地，別人爭著求取珍玩，他卻首先為秦王幕府收羅人才。

輔助唐王

房玄齡為報李世民知遇之恩，竭盡心力籌謀軍政事務。每攻滅一方割據勢力，軍中諸人都全力搜求珍寶異物，只有房玄齡首先收攏人才，將富有謀略和驍勇善戰的人安置在他的幕府中，私下與他們結為朋友，共同為李世民效力，在擊破王世充后，玄齡認為張亮“倜儻有智謀”，遂推薦給李世民，任秦王府車騎將軍，“委以心膂”。其他諸如才思敏捷的薛收，有“王陵、周勃節，可倚大事”的李大亮，“聰明識達，王佐之才”的杜如晦等都是經房玄齡舉薦以后才受到李世民重用的，后都位至卿相。

運籌帷幄

房玄齡在李世民秦王府中十多年，一直掌管軍謀大事，常負責管理文牘，每逢寫軍書奏章，停馬立即可成，文字簡約義理豐厚。一開始就不用草稿。高祖李淵也對房玄齡深加嘆賞，對侍臣講：“這個人深重地了解機宜，足能委以重任。每當替我兒陳說事務，一定能了解人的心理，千里之外，好像對面說話一樣。”后來太子李建成斥逐秦王府官屬，房玄齡與杜如晦一并被驅斥于外任。

安定社稷

唐武德九年（626年），他協助李世民經營四方，削平群雄，參與玄武門之變的策劃，幫助李世民謀得帝王之位，李世民稱贊他有“籌謀帷幄，定社稷之功”。太宗論功行賞，以房玄齡、長孫無忌、杜如晦、尉遲敬德、侯君集五人功為一等，進爵邢國公。

精誠奉國

房玄齡追隨唐太宗平定天下，出入生死，備嘗創國立業之艱辛。他時刻不忘創業之難，警鐘長鳴，力戒驕奢淫逸，以維持國家的長治久安。

貞觀元年，房玄齡重視吏治，認為吏治問題是求治的根本，而官吏的公平正直又是治國之要道。在選舉官吏的問題上，唐太宗主張“量才授職，務省官員”，“現在應當審查官吏，讓他們都能夠發揮各自的作用，那么國家就可以無為而治了。”房玄齡忠實地貫徹了他這一思想，大力簡政，并省官吏，“于是所配置的文武官員總六百四十員”。

房玄齡精減官吏的做法，對經隋末大亂、人口銳減的唐初來說，既裁去冗官濫職，避免十羊九牧，提高朝廷各部門辦事效率，同時也節省國家財政開支，減輕人民負擔。

房玄齡精通典制政令。貞觀初年，時值天下初定，朝章國典還很不完備，他與尚書右仆射杜如晦共掌朝政，亭臺樓閣等建筑物的規模以及法令、禮樂、制度以及歷代遺留下來的有價值的東西，都是他們二人所制定，在當時獲得美譽。

在修定律令方面，房玄齡秉持“審查并確定法律和命令，將寬厚平和（的風格）做為宗旨”的思想，簡化律令，又除去了隋朝的苛酷刑法。自房玄齡等更定律、令、格、式以后有唐一代都沒有發生過多大變動。

貞觀三年（629年）二月，房玄齡改封魏國公，為尚書左仆射，監修國史。房玄齡盡心竭誠，早起晚睡。加之他明達吏事，法令寬平，任人惟賢，不分卑賤，人們都稱他為良相。

貞觀九年（公元635年），房玄齡護高祖山陵制度，以功加封開府儀同三司。貞觀十一年（公元637年）封梁國公。與杜如晦、魏征等同為唐太宗李世民的股肱之臣。

貞觀十三年（公元639年），加太子少師。他留守京師。他任宰相十五年，女為韓王妃，兒子房遺愛尚高陽公主，顯貴至極，但常常深自卑損，不敢炫人傲物。貞觀十八年，李世民親征遼東高麗，命房玄齡留守京城。

與世長辭

貞觀二十二年（648年），房玄齡病重，太宗派名醫為其醫治，每日供給御膳，并親臨探望。臨終之時，房玄齡對諸子說：“當今天下清平，只是陛下東討高麗不止，正為國患。主上含怒意決，臣下莫敢犯顏。我知而不言，就會含恨而死啊。”于是抗表進諫，請求太宗以天下蒼生為重，停止征討高麗。太宗看見奏表，感動地對房玄齡兒媳高陽公主說：“此人病危將死，還能憂我國家，真是太難得了。”臨終之際，李世民親至其病床前握手訣別，立授其子房遺愛為右衛中郎將，房遺則為中散大夫，使其在生時能看見二子顯貴。

七月，房玄齡與世長辭，終年七十歲。太宗為之廢朝三日，贈太尉，謚曰文昭，陪葬昭陵。與初唐其他二十三位開國功臣一起畫像并供奉于“凌煙閣”。