由於《公證暫行條例》頒布時我國尚未建立專門的行政復議制度，公證處或者其同級司法行政機關或者上級司法行政機關發現“已經出具的公證文書有不當或者錯誤的”，應當撤銷該條例。作為20世紀80年代我國新時期法治建設初期的立法，該條例的上述規定具有鮮明的時代痕跡。首先，“救濟”主要是基於公證機關和公證機構的“自糾”功能，而不是外部的審查和監督；其次，啟動救濟或“自糾”功能的權力在於公證機關和公證機構的“發現”而非公證當事人的申請。至於什麽是發現，法律上對發現的方式方法沒有明確具體的規定；再次，沒有進壹步界定“不當”和“錯誤”的範疇，也沒有相應地考慮是否應該撤銷所有的錯誤或不當。但無論如何，公證當事人都可以撤銷那些直接影響其權利、確有不當或錯誤的公證書。也就是說，公證當事人有權對公證書說“不”。
司法部的《公證程序規則》在很大程度上修改和細化了國務院《公證暫行條例》的規定。首先，明確了公證員在公證救濟程序中的地位和作用，規定其可以通過申訴和申請復議的方式請求撤銷不當或錯誤的公證書。在隨後的公證實踐中，公證員(包括利害關系人)的申訴和復議申請實際上成為公證機關和公證員“發現”的主要方式和手段。其次，具體界定了“不當”和“錯誤”公證書的範圍，並針對不同的“不當”和“錯誤”規定了不同的救濟方式；再次，通過規定辦理公證當事人申訴和復議申請的時限和方式要求，使公證救濟從單純的行政“自糾”機制轉變為更多的行政監督制約模式。相比較而言，《公證暫行條例》更強調行政權力的合法正確行使，而《公證程序規則》更多體現的是對當事人權利的救濟[29]。
由於公證行為具有預防、減少糾紛和確保法律安全的功能，就公證的法律事實而言，公證可能是其生效的形式要求(條件)，也可能成為解決糾紛的重要證據。公證書載明的權利義務是確定的，非經法定程序不得變更。而壹個錯誤的、不當的公證，可能有助於形成壹個重要但不真實、不合法的法律關系，也可能確定或固化壹個不真實、不合法的法律事實[30]。不當或錯誤的公證書在被撤銷前具有相同的證明力和執行力，而這種證明力和執行力的行使必然會影響甚至損害公證當事人和相關利益人。各國公證實踐證明，公證應當有救濟程序，公證員和公證人員應當承擔責任。唯壹不同的是:在什麽情況下，公證員和人員如何承擔責任？
公證法在這個問題上采取了令人驚訝的方法。該法第五章“公證效力”第三十九條“公證事項的當事人、利害關系人認為公證書有錯誤的，可以向出具公證書的公證機構提出復查。公證書內容違法或者與事實不符的，公證處應當撤銷公證書並予以公告，公證書自始無效；公證書有其他錯誤的，公證處應當予以更正。”同章第四十條:“公證事項的當事人、利害關系人對公證書內容有爭議的，可以就該爭議向人民法院提起民事訴訟。”。該法與現行公證制度救濟機制的連續性僅體現在以下幾個方面:公證事項的當事人、利害關系人可以向出具公證書的公證機構提出復審；公證機構可以根據不同的“錯誤”情況進行撤銷或更正。在這壹規定中，“同級司法行政機關和上壹級司法行政機關”作為公證行政主管機關的行政監督職能悄然消失，取而代之的是跨越原有申訴、行政復議、行政訴訟流程的“民事訴訟”制度安排。立法者應當基於兩個理論前提作出這樣的制度設定:壹是出具公證書的公證機構在法律責任、程序等多種約束下，會根據公證事項當事人、利害關系人的復審申請，撤銷或者更正那些有錯誤的公證書；其次，對公證書內容的爭議安排民事訴訟是解決問題的根本。人民法院通過無視或者剝離附於原法律事實的公證書，直接審理當事人與公證事項利害關系人之間的民事糾紛，公證書是否存在變得無關緊要。因此，即使偏離了第壹個理論預設，即公證機構拒絕撤銷或糾正錯誤的公證書，也不會影響公證法救濟機制的整體功能。
《公證法》的這壹安排與中國公證法律制度從拉丁公證制度向英美法系國家的轉變有關。這種救濟方式排除了主管司法行政機關的行政監督，同時降低了公證員公證行為的公權力意義——公證不再是應當通過行政決定和行政復議審查的行政行為；主管行政機關作為獨立行使職能、承擔責任的公證機構，無權對公證業務進行評判(雖然這並不排除主管行政機關對公證機構和公證員違反《公證法》的行為進行監督和處罰，但這種處罰當然不改變相關公證員存在的事實)。然而，從另壹個角度看，當公證處出具的公證書是否有錯誤的問題在人民法院審理相關案件的民事訴訟中變得完全可有可無時，法律原本賦予公證書的“證明力”和“執行力”就有消失的危險:由於公證書在民事訴訟中既不能證明任何事情，也不能確定任何事情，申請公證對當事人來說就成了壹件真正“既不方便也不經濟”的事情。然而，公證法的這壹制度安排與現實之間，甚至與法律本身的相關規定之間，都存在著矛盾和問題。首先是錯誤公證書的撤銷或更正問題。公證機構可以在多大程度上根據相關復審請求撤銷或更正自己出具的公證書，其實是壹個無法把握的問題。雖然程序和責任約束可以產生壹定的強制壓力，但自我監督的低效是所有監督方式中最明顯的事實[31]。相關人的復審請求被駁回或未實現後，根據《公證法》的規定，公證事項的當事人、利害關系人將失去通過其他途徑請求撤銷或更正有錯誤的公證書的可能性。換句話說，他們只能接受出具證明的公證機構拒絕撤銷或更正的事實，讓壹份關系到他們切身利益、確實存在錯誤的公證書“合法”地繼續存在。其次，就人民法院對“公證書內容有爭議”的相關人提起的民事訴訟而言，雖然經過公證的民事糾紛與未經公證的民事糾紛本身可能沒有區別(這僅限於自願公證)，但公證過程或多或少會改變原有的法律事實，即使只能是形式意義上的。公證文書的證明力使原有的法律事實更加可靠，可能更容易圍繞法律事實產生新的交易。因此，如果不涉及相關公證文書的效力，法院的相關民事訴訟可能無法順利進行。就法定公證事項而言，《公證法》本身第三十八條明確規定:“法律、行政法規規定未經公證的事項不發生法律效力的，從其規定。”這壹規定實際上確認了公證是某些具體法律行為(交易)的有效要件，即公證本身構成原法律行為的組成部分。如果公證機構不撤銷或糾正同樣是相關法律事實有效要件的錯誤公證書，人民法院就不能進行所謂“有爭議”的民事訴訟。公證法壹方面繼續確定公證書的證明力和執行力，另壹方面又試圖通過“公證救濟方式”的改變來消解這種效果，矛盾和混亂自然不可避免[32]。
公證法十余年的立法歷程表明，法律不僅僅是對當前社會關系的總結，還包含著政治、經濟、文化發展環境和法律價值取向的影響。立法不同階段對不同利益的要求和實現程度表明，立法遠比程序復雜。這應該算是立法的壹種常態:我們是在為“人”立法。而各種利益的交織與平衡，遠不是所謂的“法律合理化進程”所能解決的[33]。以公證制度改革為個案，也可以看到法治建設過程中，中國域外法治經驗與中國具體現實之間的互動與作用。兩種制度的安排同時出現在同壹部公證法中——這可能是新的民族特色，也可能是新的地方資源。