早年經歷

源乾曜早年考中進士，累遷至殿中侍御史。706年（神龍二年），唐中宗任命十道巡察使，讓他們負責考察官吏、安撫百姓等事務。源乾曜出任江南道巡察使，因政績突出，升任諫議大夫。

累職升遷

711年（景云二年），源乾曜針對朝廷荒廢射禮的行為，上奏道：“圣王教化百姓，必制定禮樂以正人情。君子三年不為禮樂，則禮崩樂壞。古代擇士，先觀射禮，并不是取一時之樂。射可以區別正邪、觀察德行，圣王對此無不重視。如今朝廷吝惜費用，而荒廢射禮，甚是不妥。臣認為花費的雖是錢財，但保全的卻是禮制，請陛下重開射禮。”不久，源乾曜出任梁州都督。

713年（開元元年），邠王府僚屬犯法，唐玄宗便要大臣推舉王府長史。源乾曜得到太常卿姜皎的舉薦，入宮奏對。他神態清明，氣質爽朗，回答問題有條不紊。唐玄宗大喜，任命他為少府少監，兼邠王府長史。不久，源乾曜升任戶部侍郎、兼御史中丞，又改任尚書左丞。

擔任宰相

716年（開元四年），源乾曜被擢升為黃門侍郎、同紫微黃門平章事，但不久便與姚崇一同罷相，出任長安留守、京兆府尹。他任京兆尹三年，治政寬簡，政令如一。

720年（開元八年），源乾曜再次拜相，被任命為黃門侍郎、同中書門下三品，不久又升任侍中，加銀青光祿大夫。不久，源乾曜進言道：“如今權貴子弟大多任職京師，使得賢才被遠放京外。臣有三子，都在朝中為官，請陛下將其中二人外放。”唐玄宗大悅，下詔褒揚源乾曜，并命朝中百官效仿。

722年（開元十年），唐玄宗采納“國之執政，應加崇寵”的建議，厚賞源乾曜與中書令張嘉貞，讓他們食實封三百戶，開創唐朝宰相享有封邑的先例。

725年（開元十三年），唐玄宗封禪泰山。源乾曜持反對意見，并因此與中書令張說發生矛盾。封禪結束后，源乾曜升任尚書左丞相，兼任侍中。

晚年生活

源乾曜任相期間，張嘉貞、張說、李元纮、杜暹相繼執掌朝政。他為人謹慎，在重大問題上從不發表意見，只是簽署公文、表示附和。

729年（開元十七年），源乾曜被罷去侍中，保留左丞相之職。八月，唐玄宗任命源乾曜為太子少師。他因官名有犯祖父名諱，推辭不受，被改任為太子少傅，并封安陽郡公。

731年（開元十九年），唐玄宗巡幸洛陽。源乾曜因年紀老邁，沒有隨行，留在長安養病。十一月，源乾曜病逝，追贈幽州大都督。唐玄宗廢朝二日，并在洛陽南門為他舉哀。