為擊滅陳朝，統壹南北，隋文帝楊堅在開皇元年三月，即派上開府儀同三司賀若弼、和州刺史韓擒虎分任吳州和廬州總管，駐江北廣陵(今江蘇揚州西北)和廬江(今合肥)，預作滅陳準備。九月，陳將周羅喉攻占江北隋地胡墅(今江蘇六合西南)，驃騎大將軍蕭摩訶率兵進攻江北，隋出兵還擊。後因突厥在北境經常襲擾(參見突厥攻隋之戰)，楊堅便改取南和北戰、先北後南的軍事戰略。二年正月，陳後主(叔寶)繼位，向隋請和，歸還胡墅；二月隋以“禮不伐喪”為名撤軍。此後又多次遣使訪陳，表示和好。三年，隋反擊突厥獲勝(參見隋反擊突厥之戰)，解除了北方威脅，繼經幾年治理，國力、軍力大大增強；而陳朝政治日益腐敗，府庫空虛，內部矛盾尖銳。於是隋朝加緊進行滅陳準備。五年十月，楊堅以清河公楊素為倌州總管，經略長江上遊。同時在五、六、七3年內，動員數十萬人修繕朔方(治巖綠，今內蒙古烏審旗南白城子)、靈武(治回樂，今寧夏靈武西南)壹帶長城，並於朔方以東緣邊險要，築城數十，以加強北部邊防，保障南進時後方無憂。七年八月，進兵江陵(今屬湖北)，兼並蕭梁(原北周支持之小政權)，掃除南進障礙。十壹月，楊堅與宰臣謀議伐陳之策。尚書左仆射高颎提出：在江南收獲季節，以少數兵力，聲言進襲，迫陳集兵守禦，以誤其農時；彼既聚兵，我便解甲，如此多次，使陳軍習以為常，麻痹懈怠，然後舉兵渡江，登陸攻擊，派人潛入陳境，反復縱火，焚其儲備物資，使其財力俱盡。虢州刺史崔仲方提出：在武昌(今湖北鄂州)以東沿江各要地部署精兵，秘密準備渡江，在益(治今成都)、信(治今四川奉節東)、襄(治今湖北襄樊)、荊(治今湖北江陵)等地速造戰船，準備水戰；陳如以精兵赴援上遊，下遊諸將即可乘虛渡江，如陳擁兵自衛，上遊諸軍則可順江東下，直取建康(今南京)。楊素、賀若弼等亦爭獻平陳之策。楊堅均予以采納。攻陳前，隋令介州刺史李衍在襄州道、楊素於巴東郡(治今四川奉節東)建造“五牙”(裝有拍竿的大型戰艦)、“黃龍”等戰船，加強水師。故意在江中漂下造船廢料，以威懾陳人。賀若弼賣掉老馬，大量購買陳船，藏匿起來，又買破舊船只五六十艘，泊於小河，使陳軍以為隋軍沒有戰船。多次將換防士兵集於廣陵，大張旗幟，營幕遍野，還使士卒沿江射獵，人馬喧噪，以迷惑陳軍，使之不加戒備。八年三月，楊堅下詔，列舉陳後主罪行又送璽書暴其罪惡20條，並將詔書在江南散發30萬份，以爭取人心。十月，楊堅在壽春(今安徽壽縣)設淮南行臺省，以晉王楊廣為行臺尚書令，主管滅陳之事。命楊廣、秦王楊俊、楊素並為行軍元帥，高颎為晉王元帥長史，右仆射王韶為司馬，集中水陸軍51．8萬，統由楊廣節度，東至大海，西到巴、蜀，旌旗舟楫，橫亙數千裏。隋軍自長江上遊至下遊分為8路攻陳：楊素指揮水軍主力，出巴東郡，順流東下，消滅長江及沿岸陳水陸軍；楊俊指揮上遊3路進攻江夏(今武昌)，以扼控長江，阻止上遊陳軍東援；楊廣指揮下遊5路，渡江進攻陳都建康。十壹月，楊堅至定城(今陜西華陰東)誓師，準備渡江的各路隋軍進抵長江北岸，完成進攻準備。
陳後主荒淫驕侈，政治腐敗，既不懂軍事，又不納部將建議，憑恃“長江天塹”，疏於防務。為了元會(即春節)之慶，竟命鎮守緣江重鎮江州(治今江西九江)、南徐州(治今江蘇鎮江)的兩個兒子率戰船回建康，致使江防更為薄弱。十二月，長江上遊隋軍首先發起進攻。楊俊督水陸軍10余萬出襄陽(今屬湖北)，進屯漢口(今湖北漢水入長江之口)。陳命散騎常侍周羅喉都督巴峽緣江軍事，與郢州刺史荀法尚部數萬，據守江夏，同楊俊軍相峙月余。時隋行軍總管周法尚率舟師3萬，進至樊口(今湖北鄂州西)，擊破抗拒的陳軍。楊素率水軍出巴東，沿三峽東進，荊州刺史劉仁恩部由江陵西上，兩軍配合，水陸兼用，襲占狼尾灘(今湖北宜昌西北)(參見狼尾灘之戰)，擊敗陳守將戚昕；又於次年正月，攻破西陵峽口各要點(參見歧亭、延州之戰)，擊敗陳南康內史呂忠肅軍，繼續順江而下。陳荊州刺史陳慧紀屯公安(今湖北公安西北)，見大勢已去，便率軍3萬、樓船千余艘，順江東走，企圖入援建康，被楊俊軍阻於漢口以西。楊素繼以主力沿江東下，與楊俊軍會師漢口，另派壹部南下湘州(治今湖南長沙)，擊擒陳嶽陽王陳叔慎。九年正月初壹，長江下遊隋軍乘陳歡度元會之際，分路渡江。賀若弼軍出廣陵南渡，韓擒虎軍出廬江由橫江口(今安徽和縣東南)夜渡，襲占采石(今安徽馬鞍山市西南)，楊廣軍出六合 (今屬江蘇)進屯桃葉山(今六合東南)。初四，陳叔寶察覺事態不利，下詔親帥陳軍拒敵。命驃騎將軍蕭摩訶、護軍將軍樊毅、中領軍魯廣達並為都督；又派南豫州刺史樊猛率水軍堅守白下(今南京城北金川門外)，抵禦六合方面隋軍；以散騎常侍臯文奏率部鎮守南豫州(治姑熟，今安徽當塗)。隋軍突破長江防線後積極推進，初六，賀若弼軍攻占京口(今江蘇鎮江)，俘南徐州刺史黃恪。所俘6000余人，均優待釋放。隨後賀若弼以壹部進屯曲阿(今江蘇丹陽)，以防三吳(今江蘇太湖以東、以南和浙江紹興等)陳軍增援，自率主力西進；韓擒虎軍於初七攻占姑熟，沿江東進，臯文奏軍敗退建康。賀若弼、韓擒虎兩軍自北、南兩道並進，鉗擊建康。陳後主放棄鐘山(今南京紫金山)、石頭(今南京城西清涼山)山險不守，命諸軍屯於都城內外。十五日，陳鎮東大將軍任忠率軍自吳興(今浙江湖州南) 入援建康，駐守朱雀門(建康城南門)。十七日，賀若弼軍進據鐘山，屯於山南白土岡東，渡江攻占南陵(今安徽貴池西南)的總管杜彥與韓擒虎合軍步騎2萬，進屯新林(今南京西南)。行軍總管宇文述率軍3萬渡江，進占石頭。至此，隋軍對建康已形成包圍。此際，為配合隋軍主力進攻，蘄州刺史王世積軍，由蘄春(今湖北蘄春北)攻蘄口(今蘄春西南)，大敗陳將紀填；青州總管燕榮水師由東海(今江蘇連雲港西南)沿海南下，前往太湖。陳叔寶面對隋軍攻勢，不采納部將建議，致使建康附近10余萬陳軍無所作為。二十日，陳軍奉命倉促出戰，在白土岡南北列陣20裏，首尾進退互不相知。賀若弼軍初戰不利，然後猛攻陳軍薄弱部分，陳軍全線潰退(參見白土崗之戰)。同時，韓擒虎軍進至石子岡(今南京雨花臺)，陳將任忠迎降，引韓擒虎軍經朱雀門入建康，俘陳後主。當夜，賀若弼軍也從北掖門入城。二十二日，楊廣到建康，令陳叔寶用手書招降上遊諸將。周羅喉、陳慧紀等均降。二十九日，隋文帝詔令使節巡撫陳各州郡。二月，吳州(治今江蘇蘇州) 等地守將拒不投降，被宇文述、燕榮軍擊破。嶺南數郡***奉高涼(今廣東陽江西)冼夫人為主，保境拒守。文帝詔遣柱國韋沈等前往安撫，嶺南各州皆歸於隋