蔡必勝曾祖蔡岳，祖父蔡欽事跡已不可考。父親蔡蔚，曾被朝廷贈予武德郎。

蔡必勝自幼習文練武，人品學識俱佳。他中武狀元后，被授予江東將軍。按當時軍隊規定，所有將校參見主帥，都必須穿小袖衫拜于堂下，而蔡必勝卻穿袍執笏揖于堂上，表現了不同凡人的個性。時任參知政事兼樞密使的虞允文很賞識蔡的才華，欲委任他做學官，卻遭到推辭。在任上，蔡曾積極協助其他將領查禁私鹽販賣，朝廷要獎賞有功人員，他只字不提自己，將功勞全記在他人身上，為此受到同僚們的敬重。他很快被提拔為闔門舍人，其上司曾覿也想結交拉攏他，每次退朝時以目示意，但蔡素惡他心術不端，總是佯裝不知，不予理睬。漸漸地，蔡必勝在朝中聲名鵲起，連宋孝宗也親自召見他，還夸他一表人材，前程無量，并命丞相周必大留他在京任職，不想也被他拒絕了，于是只好令他知澧州（今湖南澧縣），不久又任邵州（同屬湖南）知州。

蔡必勝居官清正廉明，他從未為自己沽名釣譽，斂財圖富。他體察民情，為百姓興利除弊。每到年終歲末，他必親自到民間訪貧問苦，用自己的俸祿接濟貧民渡過難關。他重視教育，親自到學宮督促學生，以仁、義、禮、智、信教導他們，使讀書人在社會上受到尊敬。在邵州任期滿時，朝廷要調他到光州（今河南潢州），邵州的官員和百姓聞知，紛紛上書朝廷，請求他連任。然而他尚未到達光州，孝宗又下旨，任命他為可帶御器械的闔門舍人，成為皇帝身邊最貼近的大臣。不久，他因父親病故，回家奔喪，三年服喪畢，仍回朝復職。

淳熙十六年（1189），孝宗趙眘禪位，光宗趙惇即位。光宗妻李氏心術不正，離間孝宗父子關系，致使光宗不孝，父子疏遠。孝宗病重之際，光宗也不去探視。紹熙五年（1194），孝宗病逝，光宗竟以生病為由，拒不行祭奠之禮。一時朝野上下人心惶惶，謠言四起。為了穩定局勢，對天下有個說法交代，丞相留正去找宗室趙汝愚想法子，趙汝愚建議丞相請皇太后下懿旨，讓光宗禪位，由嘉王趙擴代祭后登基。于是左司郎中徐誼等人商議請皇太后臨朝，可丞相留正害怕擔風險，悄然從殿庭之上溜走。徐誼無奈，只好向趙汝愚建議，由皇太后的親戚、官居知闔門舍人的乾侂胄去對皇太后曉以大義，取得支持，而要請韓侂胄，可通過韓的鄰居同事、至交好友蔡必勝。

且說蔡必勝驚聞孝宗駕崩，心中悲痛，不思飲食，在朝中混亂、人心思定時，他認為只有請示皇太后冊立皇子嘉王趙擴代理喪事，方可安禮稷。當他知道趙汝愚等與自己不謀而合時十分高興，立即去請韓侂胄勸說皇太后。皇太后終于下旨，但嘉王趙擴怕擔不孝罪名，猶豫再三，在徐誼與趙汝愚的百般勸說下方勉強同意，而事到臨頭時又退避不就，無奈之際，韓侂胄與蔡必勝不顧個人安危，挺身而出，硬是為趙擴穿上龍袍，連扶帶抱坐上龍椅，接受百官跪拜，是為寧宗。

寧宗登位后，韓侂胄恃功自傲，專權跋扈，而蔡必勝卻受人忌妒，被韓貶謫池州（今屬安徽）。在池州，他平反了一起冤案，抓住真兇，百姓拍手稱快，對他心悅誠服。后來他知楚州（今江蘇淮安），又收容了一伙惡少，并整頓風紀，除掉一名不聽指揮、聚眾圖謀不軌的軍士，解決了幾任知州難以解決的宿患。后來蔡必勝又調任廬州（今屬安徽）知州。廬州在宋金對峙時是個軍事要鎮，他到任后積極備戰，不但修葺城池，疏浚河流，招募兵士，編練水軍，還修復了巢湖孤姥山的城堡、糧倉，囤積糧草，以備急用。在廬州時，他還修復馬亮、包拯之墓，并因墓作祠；對為國戰死的趙立、魏勝等功臣，他撥出公田，為其建塋廟，讓人們四時祭祀。

數年后，蔡必勝以侍奉老母為由，請求閑職，寧宗便詔令他為吉州（今江西吉安）刺史、提舉崇道觀。

嘉泰三年（1203），寧宗想重新委以重任，讓他出知揚州（今江蘇揚州），誰料詔令未下，他已病逝家中，享年64歲。

開禧元年（1205），蔡必勝移葬于浙江瑞安縣靈峰寺后山，宋代名臣葉適為其撰寫墓志銘。