劉裕的祖籍在彭城縣穗嶼。他是漢高祖劉邦的弟弟，楚原的第二十二個孫子劉王焦。早年舉家隨進士南下，住在金陵丹徒郡京口。學者朱宗斌把劉裕的家世歸結為江左的“低級士紳”。
劉裕出生於晉哀帝元年三月十七日(16，363)晚上。那時候他家裏窮，母親生完孩子就生病去世了。父親劉俏無力請奶媽給劉裕餵奶，壹度打算拋棄他，只因敬重母親伸出援手，撫養劉裕，才得以茍延殘喘。
當劉裕長大後，“熊傑很慷慨”。他身高7英尺6英寸，性格堅強，不拘小節。他因孝敬後母肖文壽而出名。早年因家境貧寒，窮困潦倒，靠砍柴、種田、打魚、賣草鞋為生。劉裕只認識壹些字。他曾經因為賭博而傾家蕩產，被村裏鄙視。當時的大多數人是無法欣賞他的。不過，出身瑯琊王家的對劉裕頗為欣賞。王米曾經對他說:“妳應該成為壹個英雄。”
劉裕參軍，成為北府兵大將、狀元孫武東的司馬。
晉安帝隆安三年(399年)十壹月，孫恩在會稽起兵反晉，東南八郡相繼響應，震驚朝野。金廷派魏將軍謝衍和前將軍劉牢之去鎮壓他們。還是因為孫無忌的推薦，劉裕調到了劉牢之參軍。十二月，劉牢之來到無棣，派劉玉玲幾十人去刺探反叛運動。可惜的是，當他遇到數千叛軍時，劉裕領兵出戰，即使部下大部分戰死，他依然舞著長刀，激戰。後來的兒子劉和主力騎兵相繼而來，起義軍被擊潰，劉裕乘勝收復。孫恩逃回海上。
隆安四年(400年)五月，孫恩攻克會稽縣，殺了謝衍。11月，劉牢之再次領兵討伐，孫恩敗退。劉牢之駐紮上虞，派劉裕去保衛張成。張成人少，士兵不到數百人。劉裕往往鍥而不舍，身先士卒，每戰沖鋒在前，起義軍歸口。
隆安五年(401)春，孫恩頻頻進攻張成，每次都被劉裕擊敗。三月，孫攻海鹽縣，劉裕緊隨其後，在海鹽縣舊址建城。叛軍圍城數日，城內兵力空虛。劉裕挑選數百人組成敢死隊，全部脫下盔甲，手持短兵器，在鼓聲和喊聲中沖出城外。起義軍大為震驚，士氣大失，紛紛潰逃，統帥姚盛被斬首。雖然連戰連勝，但劉裕考慮到民不聊生，便假裝棄城而逃，誘導叛軍蜂擁入城。他利用自己的懈怠，派兵埋伏，打敗了叛軍。六月，孫恩轉身渡海，準備突襲丹徒，集結十余萬人。劉牢之仍然駐紮在殷珊，首都震動了。劉裕聞訊，日夜兼程，與起義軍同時到達丹徒。當時敵眾我寡，長途急行軍很累，而丹徒守軍毫無鬥誌。孫恩率領數萬將士攻打蒜山，被劉裕擊敗，跳崖投水。很多人死了。八月，朝廷加劉裕為建武將軍，下邳太守。劉裕率領水軍追擊禹州，擊敗孫恩，迫使其南逃。十壹月，劉裕在海鹽再次擊敗孫恩。此後三戰三勝，俘虜叛軍數萬人，但叛軍卻遭遇“饑荒和疾病”，死了壹大半，從河口退入大海。
在轉戰三吳的幾年裏，劉裕屢戰屢捷，屢戰屢敗，軍事謀略初露端倪。他不僅勇猛善戰，堅忍不拔，沖鋒陷陣，而且指揮有方，足智多謀，善於以少勝多。當時的將軍們掠奪士兵，揮霍百姓。只有劉裕壹人治軍，法紀嚴明。他率領水軍追擊孫恩，孫恩怕被俘虜，在臨海投海自盡而死。
孫恩起兵，消耗了晉朝的兵力，造成了北京防守的空虛，這給了盤踞在長江上遊軍事重鎮荊州的桓玄可乘之機。元興元年(402年)，驃騎將軍司馬原憲率軍西征桓玄，桓玄也率荊楚大軍南下攻司馬原憲。司馬原憲派劉牢之去抵抗，劉裕也隨軍前往。當劉牢之來到利州時，他遇到了桓玄和他的人，劉裕要求進攻，但沒有同意。打算派劉到桓玄陣營求和，但遭到劉裕和的侄子何無忌的堅決抵制，而不聽。桓玄攻打建康，殺了司馬原憲，奪了劉牢之的兵權，換成了他的堂弟桓秀？。劉牢之害怕災難而逃跑，並上吊自殺。劉裕審時度勢，暫時投了桓玄壹票，以隱藏實力。由於劉裕在建軍方面建樹良多，在北府兵舊部中口碑甚佳。因此，桓玄也不敢小覷他，任命他為鐘兵參軍。
孫恩死後，余忠優先考慮他的妹夫魯迅。魯迅率起義軍南下，攻占永嘉、濟南等地。為了安撫地方政府，桓玄任命魯迅為永嘉知府。魯迅顯然同意了，但他繼續攻擊沿海各縣。元興元年(402年)五月，桓玄派劉禹東討伐魯迅。元興二年(403)正月，武帝在東陽大敗盧循軍。魯迅逃到永嘉，被劉裕打敗，部將張士道也被殺。劉裕壹路追擊至晉安，魯迅橫穿海南而逃。六月，劉裕因功被封為彭城刺史。
桓玄掌控朝政，被封為楚王，圖謀篡位。有壹次，桓玄的屬下弟弟桓謙私下問他禪代的事，劉裕假裝稱贊桓玄有功，說桓玄“取了禪代，有何不可”。桓謙喜出望外，道:“妳說的是，應該是真的。”元興二年(403年)十二月，桓玄篡位，劉裕隨刺史徐延州入朝。桓玄見到劉裕時，對司徒王米說:“我昨天見到了劉裕，他是人中英雄。”所以對劉裕更加殷勤，恩寵有加。桓玄的妻子劉頗有學問。她多次勸桓玄除掉劉裕，但桓玄拒絕了，理由是想借劉裕夷平中原。同時，為了消除桓玄稱帝後的隱患，想瓦解北府兵，大力剿滅北府兵舊將，北府兵幾乎全軍覆沒。在桓玄思考的同時，劉裕也在暗中聯絡殘余的北府兵，伺機反攻桓玄。
二月，北府兵將領劉裕等人聯合起來，計劃起兵討伐桓玄。劉道貴，劉裕的弟弟，此時正在擔任青州刺史桓洪的中軍參軍。劉裕派劉壹到長江以北與劉道貴、孟嘗君會合，壹起殺了桓弘，占領廣陵。諸葛長民此時被任命為刁逵參軍，劉裕下令諸葛長民殺了刁逵，占領溧陽；王顯德、辛虎興、童三人在建康，劉裕命令他們集結所有兵力攻打桓玄。作為內線，他們應該預約，同時出擊。
劉裕問何無忌:“急需壹本主簿。妳覺得誰更合適？”何無忌說:“沒有比劉道民更合適的了。”劉道民是東莞劉的別名。劉裕說:“我也認識他。”他立刻派了壹個信使騎上壹匹快馬，讓他走馬上任。劉聽到京口方向有動靜，於是壹大早就起來，來到路邊打聽，正好遇到趕來的使者。
劉看完信，直視前方，壹句話也沒說。停了這麽久，他返身回家，撕了壹件布衣，換上褲子，帶著使者去見劉裕。劉裕說:“我們剛剛舉起大旗，發動了這場道德戰爭。從零開始是非常困難的。現在我們需要壹個在部隊負責秘書工作的人。妳覺得誰最適合這種工作？”劉說:“妳的政權剛剛建立，妳所用的文官必須有真才實學。在目前緊張倉促的形勢下，恐怕沒有人比我更好了。”劉裕高興地說:“如果妳能親自擔任這個職務，那麽我們的事業壹定會成功。”
於是他立即任命劉為主簿。
孟嘗君在廣陵。這壹天，他勸說青州刺史桓弘出去打獵。天亮之前，他打開州府的大門，讓獵人們出去。孟昶、劉壹、劉道貴帶領數十名精壯士兵，直接闖進了州府。他們看到桓弘在喝粥，就立刻殺了他，於是召集所有的部隊渡江。劉裕又派劉壹去殺了刁弘。
在此之前，劉禹派的同事周到建康向劉邁匯報。劉邁敷衍地答應壹起造反，心裏卻很害怕。當周看到這壹幕時，他擔心泄密，於是飛馬往回跑。桓玄任命劉邁為竟陵太守，劉邁要速到。晚上，桓玄寫信給劉邁，說:“北府兵的情況怎麽樣？妳最近見劉裕說了些什麽？”劉邁以為桓玄發現了他們的計劃。早上起來，他向桓玄報告了劉裕等人準備謀反的事情。桓玄壹聽，大為驚訝，當即冊封劉邁為重侯。後來我恨劉邁沒抓到周讓他跑了，就殺了劉邁。然後他殺了王元德、辛虎星、童淵等人。
他們推舉劉裕為他們的領袖，壹直掌管徐州事務。劉裕派孟允作長史，鎮守京口，譚取之為司馬。應招彭城人，劉裕派國君書劉忠領兵。29日，劉裕率領兩州壹千七百人進駐竹海，向遠方發出檄文，聲稱益州刺史毛瓊已平定荊楚，江州刺史郭長誌逢迎主求楊復位，鎮北與王元德等人聯合，率兵進駐石城，將軍諸葛長民已占領溧陽。
桓玄搬回上官，叫侍從住在官中。此外，揚州新野刺史王煥乾被任命為征伐總督，被任命為徐、燕國刺史。桓謙等人請求立即出兵攻打劉裕。桓玄說:“他們的軍隊很精銳。他們知道他們會戰鬥到死。如果我們犯了錯誤，等著他們的氣候形成，我們的大事就完了。我們不妨把軍隊駐紮在舟山等他們。他們白走了200英裏，壹無所獲。他們的精神已經受挫。當他們突然看到軍隊時，他們壹定會感到震驚。我們原地不動，堅守陣地，沒有與他們對抗。他們想打卻打不起來，自然就散了，逃了。這是壹種優越的戰術。”桓謙等人執意攻打劉裕，桓玄先後派敦球太守吳弗之和右衛將軍皇甫嵩北上。
桓玄非常擔心和害怕。有人說:“劉裕等人是烏合之眾，實力弱小。看來他們肯定不會成功。陛下何必多慮？”桓玄說:“劉裕足以成為壹個時代的英雄；劉壹家沒有壹石糧食。賭博時，擲骰子會贏或輸壹百萬便士。何無忌很像他叔叔。他們壹起取得了巨大的成就。他們怎麽能說自己不能成功呢？”
3月2日，劉裕的軍隊吃完飯，扔掉所有剩下的糧食，向舟山以東進發，讓瘦弱的百姓爬上山頭，揮舞旗幟作為軍陣，迷惑敵人。他們同時分幾路行軍，兵滿山谷。桓玄的斥候回報說:“到處都是劉裕的軍隊，不知道有多少人。”桓玄變得越來越擔心和害怕，並派遣由將軍吳和率領的精銳士兵去幫助軍隊。許多士兵，如桓謙等人，都是北府兵。他們壹直對劉裕又敬又畏，毫無鬥誌。劉裕和劉壹分成數隊，突擊桓謙。劉裕壹馬當先，眾將將士誓死奮戰，無不以吶喊震動天下。此時東北風刮得很大，劉裕趁機放火燒桓謙的軍隊。火光在天空中散去，鑼鼓喧天震動京城，桓謙等軍隊全部潰敗。
雖然當時桓玄派兵抵抗劉裕，但他已下定決心要逃跑，並秘密派領軍將領尹忠文在石城準備船只。聽說桓謙等人大敗，桓玄率領數千親信，聲稱要出征，卻帶著兒子桓生和哥哥的兒子桓俊出了南壹門。前丞相樊虎參軍時，樊虎抓住韁繩勸道:“榆林軍中尚有八百弓箭手，皆是知恩圖報的老朋友。西方人世代受益，不至於被逼得拼死壹戰。他們壹旦棄都，將何去何從？”桓玄沒有回答，只是舉起鞭子指了指天空，抽打著自己的馬逃走了，向西逃向石城，尹忠文等人則沿著長江向南逃去。桓玄壹天都沒吃飯，身邊的人端上來的都是粗米飯，桓玄咽不下。桓升捧著他的胸口按摩，桓玄悲痛到無法承受的地步。
劉裕進入建康，王忠德抱著元德的兒子方回出發去迎接劉裕，劉裕立刻抱著方回哭了。袁德被追授為中郎將，鐘德從軍為鐘君。劉裕離開桓謙舊營，派劉忠去東府。元興三年(404)三月，劉裕入石城，設官留臺，燒楊軒門外的桓溫廟，在太廟立東晉新皇帝。派人追殺桓玄，尚書王維率領官員迎盛嘉，在建康壹方殺了桓玄壹族。劉裕指派臧熙到宮中接受書籍和各種器皿，看管宮中財物；其中，有壹件用黃金裝飾的樂器。武帝問臧熙:“卿有享樂欲嗎？”臧壹臉嚴肅地說:“皇上還是被逼出來流離失所的，將軍是先為王家建立仁義、努力的。他雖然腐敗，但真的沒心情享樂。”劉玉笑著說:“這只是和妳開個玩笑。”臧Xi是臧刀的弟弟。
任旭、宣司徒王米等人推薦劉裕管理揚州，但劉玉建不肯辭職，於是以王米為正職，兼任揚州刺史。後來，王米推舉劉裕為大員，統管揚州、徐州、兗州、禹州、青州、冀州、幽州、霸州軍務，領軍將領，徐州刺史、劉壹為青州刺史。
劉裕開始攻占建康。當時，正是劉決定了大事。盡管許多事情不得不倉促決定，但處理得相當恰當。劉裕也視劉為心腹，凡事都向他請教；劉對也不遺余力地幫助。當時的東晉法律松散，紀律不立，有權有勢的人可以欺負別人，平民自己管不了。劉穆之都根據當時的情況對法律進行了調整和修正，使平民適應了法律。劉裕以身作則，很快改變了當時的政治氛圍。當時雖然桓玄也想懲治，而且法律復雜，大家都不聽他的。
諸葛長民到達禹州，因錯過日期而未能起兵。他被刁逵逮捕，用囚車押送到建康。但到了當裏，桓玄因為被劉裕打敗，放棄了建康，向西去了江陵。護送諸葛長民的人救了他，攻打溧陽，逼得刁逵棄城。最後刁逵被捕，刁逵子侄皆死，不分老幼。只有他的弟弟刁成被赦免和密封的事件。刁逵的侄子刁勇僥幸逃脫，被刁逵的舊部秘密送往後秦。末代秦王姚興，任命刁永為太子私生子。劉裕任命魏永誌為豫州刺史，鎮守溧陽，而劉裕則以諸葛長民為國助將軍，兼宣城內史。
劉裕還沒發跡的時候，和刁逵賭了壹把，賭輸了，沒錢還債。刁逵把他綁在拴馬的木樁上，恰好被王米看見。他責怪刁逵沒有這樣做，放了劉裕，代他還了賭債。因此，劉裕對王米深懷感激，對刁逵恨之入骨。
桓玄篡位時，王米親自解開司馬德宗的玉璽，交給桓玄。當桓玄失敗後，輿論壹致認為王米罪大惡極，理應受到懲罰，劉裕出面為其辯護。在壹次宮廷會議上，劉壹偶爾會問玉璽在哪裏。王米非常害怕，逃到魁。劉裕寫信給武陵王司馬尊，要把王米接回來，恢復司徒的官職。
劉裕上臺後，殺了反對自己的“江左關族”，尚書槍斃王虞父子，荊州刺史王遂(桓的親黨)。此外，光祿勛丁承誌、將軍楚粲、遊擊將軍司馬秀“為官”壹事，被程在《禦史》中揭露，三人在致朝廷的感謝信中均有申訴。劉裕向司馬尊報告，他們“憤懣不平，咎由自取”，全部罷官。四月，劉玉鳳封武陵王司馬尊為大將軍，並承諾大赦桓玄家族以外的所有人。
就在這時，桓玄的兒子桓韶率軍攻打溧陽，劉裕下令輔國將軍諸葛長民將其擊退。與此同時，何無忌和劉道貴在桑洛州打敗了桓楚大將，去找楊。司馬尊授予劉裕“監軍江州”的爵位。
桓玄回到荊州根據地後，重新招兵買馬，建造船只和裝備，與晉安皇帝交戰，從江陵沿河向東。狀元將軍劉寅在多事之洲與桓玄軍相遇。雙方打了壹仗，桓玄戰敗。他們棄軍劫安弟為質，逃回江陵。桓玄到江陵後，企圖西逃到蜀，被鼓吹養生的益州刺史錢豐斬首。南郡太守王騰之等豐安皇帝入江陵。
桓玄雖亡，余黨猶存。由於東征軍的疏忽，桓玄的兒子莞貴人逃到華容宗，重新集結數千隨從，攻打江陵。安第又被桓控制了。躲在巨川的桓謙聞訊，也作出了反應。何無忌等攻江陵，與戰於陵西，敗於，歸尋楊。與此同時，兗州刺史辛瑜和北青州刺史劉蓋雙雙造反，但很快被平定。元興三年(404)十月，劉裕率青州刺史，獲準帶“百人入廟”。同年年底，劉壹等人再次到達夏口，甚至克魯城和燕嶽基地。十二月，討伐軍收復巴陵。公元元年(405年)正月，等人收復江陵，驅逐桓軍，迎回安帝。至此，桓的叛亂被徹底平定。
藝兮元年(405年)三月，晉安皇帝上書稱贊劉裕的功績，提拔他為侍郎、騎戰車將軍、主管中外軍事的將軍，“使頡頏、徐青兩州刺史同”。但劉裕多次辭去安帝授予的官銜，回到丹徒鎮。安迪要給劉裕的是荊、司、梁、夷、寧、雍、梁的軍務，疊加在之前九州的軍務上。同時免去青州刺史，帶兗州刺史。其余官職不變。同年，劉裕向後秦派出使節，要求後秦歸還之前占領的兩淮各郡，如南翔、楊順、新野、五陰等地。後秦帝堯興，或鑒於西線戰事吃緊，不願與東線劉裕為敵，遂答應將淮北十二郡全部歸還。
藝兮二年(406年)三月，劉宇佳掌管兩州。十月，劉裕寫信給西征的將士桓氏請功。於是，在朝臣稀稀拉拉的表演之後，作為壹個“唱義求主”，立下“平反之功”的劉裕，被封為公爵，有壹萬家酒樓，三萬匹帛。鎮軍府助理的規格只比原太傅謝安福低了壹個檔次。十壹月，安帝重申前朝聖旨，加劉裕為副將，騎車將軍，開復儀三司。在他多次辭職後，他就放棄了。
藝兮三年(407)閏二月，劉裕殺了“作亂”政府將領羅兵，又聯合殺了永嘉之父羅秋、桓玄的侄子陰環、東陽知府尹忠文及其兩個弟弟。桓玄的殘余勢力被殺。
藝兮四年(408)正月，與他關系密切的王米於去年十二月病逝，朝中無人。於是，劉裕聽從幕僚劉的建議，入朝接受輔政的委任？。最終被封為侍中、車旗將軍、開福義通三司、揚州刺史，並記載了尚書。他也是嚴旭的兩個國家的秘書處，並承擔國家事務的權力。劉裕辭去兗州刺史壹職。九月，劉因在西蜀攻打喬總無效，請求退位，被安帝拒絕，只降其號角聲為將軍。