魏晉南北朝“誌怪”小說中的鬼神與獄訟結合，可以說是公案小說的萌芽。
中唐至五代筆記(傳奇)小說和法醫學著作中出現的公案故事，表明公案小說在此時已經初具雛形。
到了宋代，隨著城市人口的急劇增加，階級鬥爭的加劇，刑事、民事案件的日益增多以及市民審美情趣的新需求，產生了大量的公案作品，品種更多，色彩絢麗，藝術日趨完善，可以說這就是公案小說的成熟期，或者說它的早期階段。
“公案小說”是中國古典小說的重要組成部分，其主要情節是反映冤獄。在史書中，我們經常可以看到人們對“清廉”、“誠實”、“清高”、“清白”、“純潔”、“清明”等政治品格和理想人格的贊美。在小說中，經常有對“清官”的贊美和美譽。包拯和海瑞這兩位歷史上著名的清官，成為公案小說主人公的主要創作對象。明清小說創作深受理學的影響。公案小說中的清官不僅清廉細致，而且能夠謹慎公正地守法。對“法”的崇拜是清官文化的代表，在壹定意義上，清官成為“理”的代表，為天主持公道。公案小說的創作素材很多來自前代的法律文書和案例匯編，而這些小說很多都成了封建官員伏案閱讀的東西，而且很多都明確表明是寫給官員辦案、懲辦的參考，很多官員可以借鑒。這類小說主要有包公案、石公安、狄公安、海公安等。小說生動曲折，人物形象豐富，藝術技巧嫻熟，代表了明清公安小說的最高成就。