理性選擇制度主義在個體層面討論制度問題，在個體理性假設的基礎上，通過演繹的方法研究制度的產生、變化和影響的規律。它仍然假設人是理性的，追求財富的最大化，但這種追求是在信息不完全的條件下進行的。
理性選擇制度主義認為合作是制度的前提，但合作往往難以進行。用“囚徒困境”來形容合作的困難，交易成本的出現就是合作困難的結果。合作產生於戰爭、自然災害、多輪博弈等危機情境，但危機情境、多輪博弈產生的合作會遇到“搭便車”和欺騙的問題，需要加強監管，這會產生交易成本。為了降低交易成本，該制度成為必要。制度的作用是為行動者提供正負激勵，使行動者遵守制度，從而實現行動者的自我實施，進而實現制度的自我實施。
這個系統不是靜態的。諾斯認為制度的變化是“相對價格”的變化，意味著人們收入的變化。當制度已經不能保證人們的收入時，制度就可能被改變。諾斯還指出，從長遠來看，最大的動力是學習，包括人和組織對新知識的學習和對新經驗的嘗試，以及文化中所包含的積累的經驗和體會，即集體學習。這個學習、積累、嘗試的過程，就是人類不斷應對環境變化的過程。人們將自己對環境的理解制度化，並在特定的環境中指導自己的行動。當環境發生變化時，人們對環境的認識會發生變化，系統也會隨之變化。除了關註社會享受在制度變遷中的作用，溫蓋特還提出了解釋制度變遷的“自我強化均衡”概念，並運用理性選擇理論分析了不連續政治制度變遷中的連帶問題，建立了“恐懼理性模型”。
在個人與制度的關系上，理性選擇制度主義認為制度是人類理性選擇的結果，制度不決定行為，而個人的理性選擇在制度約束的基礎上決定行為，制度為人們之間的戰略互動提供了重要的約束環境。