澧縣彭頭山遺址的發掘證明，距今9000年前，常德開始進入新石器時代，這時期的原始人已掌握了石器磨制和陶器制作技術。距今7000多年的石門皂市下層文化是中國新石器早期文化的代表之壹。這時期生產工具已有河卵石加工磨制的斧、鑿等砍伐用具和魚網墜，並已掌握了原始制陶技術，生產簡單的飲食器皿。
距今6500多年的安鄉湯家崗遺址，反映了常德當時以母性為主導地位的母系氏族社會的繁榮生活。距今5000多年的安鄉劃城崗遺址，是常德進入父系氏族社會的有力證明。這時期生產工具大為改進，石器鉆孔、切割和拋光技術比較成熟，陶器普遍采用慢輪修整。
商周時期，常德境內人丁興旺，經濟繁榮。全市***有商周時期遺址550多處，出土物有鏃、簪、魚鉤、熔銅爐等。春秋戰國是歷史上社會變革時期，常德境內有上千戰國墓，有澧縣雞叫城、桃源菜菱城、臨澧宋玉城等戰國時期的城址。
楚頃襄王22年（公元前277年），秦蜀郡守張若，"伐取巫郡及江南，為黔中郡"，在今常德城東築程以守。常德有城，自此開始。秦代，常德屬黔中郡，郡衙設臨沅縣。西漢高祖時取"止戈為武，高平為陵"之意，改黔中郡為武陵郡，隸屬荊州刺史部。東漢光武帝恢復武陵郡，建武26年（公元50年）郡治從義陵（今淑浦縣）又遷往臨沅縣。順帝陽嘉3年（公元134年），荊州刺史部移治於索縣（現鼎城區斷港頭城址村）。三國時，常德市歸吳國管轄，仍名武陵郡，隸屬荊州。西晉，常德市分屬武陵、天門、南平三郡。唐代，武陵、澧州隸屬江南西道。北宋，改朗州為鼎州，改澧州為澧陽軍州，均隸屬荊湖北路。宋徽宗政和7年（公元1117年），升鼎州團練為常德軍節度使。"常德"取孔穎達《詩經·大雅·常武疏》："言命譴將帥，修戎兵戎，無所暴虐，民得就業，此事可常為法，是有常德也"，"常德"之名始於此。南宋乾道元年（公元1165年），鼎州升為常德府。元代，常德府、澧陽軍州分別改為常德路、澧陽路，隸屬湖廣行中書省江南北道。明朝初期，恢復常德府，澧陽路改為澧陽府，皆隸屬湖廣布政司分守上荊南道。洪武9年（公元1376年），將澧陽府降為澧州。清代雍正7年（公元1729年），升澧州為直隸州。清代，常德府、直隸澧州同隸屬於嶽常澧道。至清末，常德府轄武陵、桃源、龍陽、沅江四縣；直隸澧州轄石門、慈利、安鄉、安福、永定五縣。
1914年，湖南省政府廢除府、廳、州，保留"道"，嶽常澧道改為武陵道，原常德府、直隸澧州各縣由武陵道直轄，道治常德。公元1922年，湖南省撤消"道"制，僅存省與縣兩級，常德各縣直屬省管轄。公元1935年，國民政府在沅陵縣設立湘西綏靖處，將19個縣綏靖縣劃為5個行政督察區，設行政督察專員，專員兼任駐地縣長。公元1936年，國民政府正式設立專員公署，石門、臨澧、澧縣劃在第二區。公元1937年湖南省普遍設立行政督察區，第二區轄常德、華容、南縣、安鄉、沅江、漢壽、澧縣、臨澧、石門、慈利、桃源等11個縣，專員公署治所由慈利縣遷往常德縣。民國29年，湖南省調整行政區劃，行政督察區第二區改為第四區。1938年11月，第四區從常德遷往澧縣，第四行政督察區專員公署也稱常澧區專員公署。
1949年7月中旬至8月初，第四行政督察區各縣先後獲得解放。8月4日，南下途中組建的常澧區行政專員公署及全體工作人員抵達常德城。常澧專署為湖南省人民政府的派出機構，轄常德、華容、南縣、安鄉、澧縣、臨澧、慈利、桃源9縣。8月中旬，各縣相繼成立人民政府，並分別於8月5日和8月15日建立常德市、津市市，成立人民政府。8月28日，常澧區更名為"湖南省人民政府常德區行政專員公署（簡稱常德專署）"。
1952年11月13日，政務院140號文件批準，益陽專區撤消，益陽市及益陽、漢壽、沅江、安化、桃江五縣劃歸常德專區。至此，常德專區轄常德、華容、南縣、安鄉、澧縣、臨澧、慈利、桃源、益陽、漢壽、沅江、安化、桃江14個縣和常德、益陽、津市三市（鎮）。
1955年2月16日，根據省人民政府已改為省人民委員會的通知，湖南省人民政府常德區專員公署改為湖南省常德專員公署。隨後，各縣市人民政府人民政府都改為人民委員會。
1962年12月30日，國務院424號文件批準，恢復益陽專區，益陽市及益陽、桃江、南縣、沅江、華容、安化六縣劃歸益陽專署管轄。
1966年3月，常德專區生產領導小組成立，代替常德專署行使職權。4月10日，專區生產領導小組撤消，成立常德專區抓革命促生產指揮部。11月，其名稱改為常德地區抓革命促生產領導小組。1968年2月28日，常德地區革命委員會成立，行使原專署職權。3月至9月，各縣（市）先後成立革命委員會，取代人民委員會。
1979年3月24日，常德地區革命委員會撤消，常德地區行政公署成立。1979年11月至1980年12月，各縣（市）撤消革命委員會，恢復縣（市）人民政府。
1988年元月，國務院以國函[1988]18號文件批準，撤消常德地區，建立省轄常德市，實行市領導縣體制。4月18日，湖南省人民政府以湘政函[1988]22號文件通知，撤消常德地區和常德縣，設兩區，原常德市改為武陵區，原常德縣改為鼎城區，兩區行政區域不變，津市市為省轄縣級市，省政府委托常德市代管。6月20日至24日，常德市召開第壹屆人民代表大會，正式成立常德市人民政府，選出正副市長。
另外，常德養育了陰鏗、李群玉、髡殘、丁玲、翦伯贊、王同億等文化名人。