內戰結束後，霍姆斯回到哈佛大學學習法律，並於1866開始在波士頓從事律師工作。1870年成為《美國法律評論》編輯，1882年成為哈佛法學院教授和馬薩諸塞州最高法院法官，1899年被任命為法院首席大法官。他以創新的思想和嚴謹的論證而聞名。他權衡了財產權和多數統治，認為後者優先於前者。他是最早承認工人工會權利的人之壹。在此之前，有法官認為工會組織本質上是非法的。
8月1902，11日，西奧多·羅斯福總統提名霍姆斯為最高法院大法官，參議院於同年2月4日65438批準了這壹提名。霍姆斯擔任最高法院大法官壹直到1932，那年他90歲，創下了最高法院大法官的紀錄。他接受了同事的建議，主動退休了。1935他在華盛頓特區死於肺炎，再過兩天就是他的94歲生日。他被公認為美國最高法院最偉大的法官之壹。