在CKO的領導下，企業可以在公司高層或在公司總部設立以下直屬CKO領導的職能部門。
1)知識管理技術部
負責企業知識管理技術基礎設施的規劃、設計、建設、運維、更新和升級。該部門涉及的技術管理內容與CKO領導的信息技術部有壹定程度的重疊，這種技術重疊在知識管理活動的初始階段會更加嚴重。所以這個部門可以考慮和IT部門合並，或者委托IT部門管理知識管理技術。
2)知識庫管理部
負責公司內部顯性知識的調查、登記和錄入，知識庫的設計、構建、組織和更新，隱性知識源的調查、確認、記錄和錄入，企業外部知識網絡上知識資源的確認、獲取、過濾、組織和錄入，企業知識地圖的繪制。
3)知識資產管理部
負責公司知識的調查和評估，知識資產的運營、保值和增值，企業知識產權的申請、維護和交易。
4)知識服務部。負責調查企業的知識需求，確定企業知識管理的重點，知識庫的服務提供和服務管理，監督和評估知識管理的效果。
5)規劃研究部
負責制定企業知識管理的戰略規劃，研究企業知識管理的發展方向並提出對策，研究知識管理與企業使命或戰略目標融合的最佳措施，研究企業知識管理的實現條件並提出改革建議，研究知識管理對企業的影響並提出防範措施。
6)非正式溝通部門
負責公司內部知識小組等非正式組織的建立、運營和發展，支持和組織公司內部各種非正式交流活動，記錄非正式交流活動的重要成果，提交知識庫管理部錄入知識庫。
代表企業的知識管理部門協調與企業內部其他職能部門的關系，代表CKO協調與各部門知識經理及知識管理活動的關系，協調企業的知識管理活動，作為公司知識管理的代表處理各種關系，為企業的知識管理部門或活動提供各種行政支持，如財務、人事、安全、後勤等。