司法部設置了司法部長、政務和事務副部長、內部部委局、審議會議、培訓和監督、檢察院辦公室、地方分支機構、外國局(司法考試管理委員會、治安審查委員會、治安調查辦公室)等設施。主要職能有:1、司法職能:主要是檢察職能，其下屬檢察官被分配到眾議院、內閣府、公平交易委員會、總務省、財務省、外務省等重要政府部門並擔任重要職務。所轄檢察廳有自己獨立的司法警察，負責調查涉及中央和地方議員、地方長官、高級官僚和重要企業家以及違反選舉法的腐敗案件，還負責內亂、找外語罪以及特別刑法、壟斷禁止法和破壞預防法的相關案件。2.司法行政業務。管理全國戶籍；各類國家登記事務(不動產登記、公司法人登記、法人債權轉讓及其相關債權轉移登記、成年人監護登記等。);國籍管理；人權保護工作(選擇各級“人權用戶會員”受理、調查、審理侵權案件)；保護青少年權益(負責體罰青少年、家長虐待青少年等案件)；司法協助；管理公證；管理律師；組織司法考試。3.刑事執行管理。監獄、少年院、婦女咨詢院、移民收容所、保護觀察中心(適用於被監管和保護的犯人)。4、負責治安維護和管理。司法部下屬的公共安全委員會負責限制破壞團體。5.管理進出權。司法部下屬的移民局負責與出入境檢查、外國人登陸、強制離境、難民身份識別和審查有關的各種管理工作。6、制定法律的權利，如制定不屬於其他部委局的司法制度和法令。7.研究權。根據與聯合國的協議，設在日本的亞洲遠東預防犯罪研究所與聯合國合作開展相關的調查、研究和調查。
所以日本法務大臣相當於中國的法務大臣、最高檢察院檢察長、公安部長的職權。