在任何社會，人們都不再自給自足，人們既合作又競爭。因為相對於人類的需求，資源總是不足的，競爭和稀缺是同義詞。沒有壹定的規則，或者叫做產權，或者叫做制度，毫無疑問，人是走不出霍布斯叢林的。這是壹個兩難的選擇。這裏先不討論霍布斯、盧梭、洛克的思想，因為那顯然屬於政治學的範疇，我們只考慮和分析制度的表現。討論性能的時候，要假設人是從叢林裏走出來的。
但是，即使確定了產權，也有很多不同的形式來表達產權人的需求，競爭性的產權規則本身也有很大的不同。在這些方式中，價格機制只是其中之壹。但它的性能是最高的，相對於租值消散造成的民眾成本是最低的。讓我們從這裏開始。
租金是對資源使用的壹種支付，是在壹定的制度安排下，我們為滿足收入的最終享受而必須花費的成本。最早的租金概念特指地租。李嘉圖當時的概念只是土地使用價格，並不隨著人們需求的變化而改變供給狀況，因為供給根本沒有彈性。事實上，相對於人們的需求，幾乎只要有競爭，就必然會有這種缺乏彈性的供給。那麽，這些稀缺資源的配置就必須通過壹種機制來完成。在歷史上乃至現代，這樣的機制多種多樣。比如古代的九品中正制就是稀缺政治資源的分配，現在的事業單位論資排輩現象也是如此。其實這和男人憑實力，女人憑長相的安排，本質上是壹樣的。雖然這些制度在現實生活中被人反復行使，但人的代價往往是很高的，這個代價就是租金的消散。我舉個誇張的例子。電影《唐伯虎點秋香》中，唐伯虎為了接近華府秋香，假裝賣身埋葬父親，另壹個假裝賣身埋葬全家。兩個人都想去華盛頓，但是奶奶手裏只有壹個名額，競爭在所難免。石榴自稱心軟，掩飾不了別人的悲慘，所以制定了壹個比誰都慘的比賽規則。結果，大家都知道，他們兩個的代價都很高，於是唐伯虎斷了胳膊，另壹個哥們兒居然死了。在這種制度安排下，租金的消散是非常大的。這和排隊成本是壹樣的，只不過更誇張，更沒有意義，因為只是為了達到最終分配的目的，也就是壹種均衡狀態。如果石榴姐的心不是那麽軟，而是很黑，讓兩家競標競爭，租金就不會消散，結局也不會那麽悲慘。因此，我們可以說，在價格不被采納或扭曲的任何情況下，總會有另壹種規則來取代它，但代價會很高。正如哈耶克(1945)所說，價格機制是人類的偉大發明，也許是所有發明中最偉大的。
但是，也要看到，有時候人類只是選擇了非價格的分配規則。正如張五常(1974)所說，“租值消散可以導致均衡的觀點是壹個機械練習，而不是壹個經濟學命題”。我們想解釋為什麽會有這樣的制度安排，然後把年輕的科斯那些年的問題提了出來。如果像我們上壹節說的，價格機制應該是最好的，“看不見的手”可以解決所有問題，新古典主義努力了幾十年，就是為了讓這個思想更加理論化、系統化、紮實化。然而，現實世界顯然比理論復雜得多。與上帝相比，人類的智慧可能只是上帝與人類開的壹個玩笑。1930年代，大三學生科斯拿著獎學金從英國來到新大陸，熟練地參觀了福特的汽車公司，這是那個時代最偉大的公司之壹。於是科斯開始向他提出兩個問題:第壹，既然“黑板經濟學”告訴我們價格體系如此有效，為什麽依賴行政命令的企業在現代經濟中依然存在？第二，企業的邊界在哪裏，也就是說，企業在市場的大海中是在什麽規模下確定的？
1937科斯終於在手稿寫完四年後發表了。這就是《企業的性質》這篇文章。科斯首先表明，實際上新古典經濟學家並沒有對企業問題視而不見，新古典經濟學並不比古典經濟學狹隘，但他認為那些關註和解釋並不能回答他的問題。其中，奈特的觀點尤其值得註意。
奈特把風險和不確定性作為分析的工具，在壹定程度上解釋了企業的產生。風險是壹種人們知道其概率分布，但人們可以根據過去來推斷未來的可能性的不確定性，不確定性意味著人類的無知，因為不確定性意味著人們無法預測從未發生過的未來事件，而且是從未發生過的全新的過去。根據這樣的分析工具，奈特認為，現實世界中總有少數人具有風險偏好的天性，敢於承擔責任，敢於創新，敢於為利潤的產生而不懈努力；絕大多數人是風險厭惡型和中立型的，他們願意交出自己的權利，讓風險愛好者來指揮，但條件是偏好型企業家必須保證自己的薪水，於是公司就在這樣的權利劃分中成立了。這是《風險、不確定性和利潤》壹書中的觀點。但是科斯不同意。壹方面，他認為奈特承認管理者(非企業家)也有日常管理的責任，這壹點奈特無法解釋，奈特的分析也無法給管理者壹個定位。另壹方面，科斯認為如果只是風險偏好不同，那麽雇主和雇員完全可以通過契約在市場上完成。
科斯認為，企業之所以產生，是因為市場價格機制的運行不是無成本的，這個成本就是價格發現的成本。只有當這個成本小於企業的組織成本時，人們才會通過市場來完成。這種成本就是科斯首創並流行於新制度經濟學的交易成本。這個概念我們以後再說，先來說說科斯的第二個問題。
第二個問題是尺度問題，這是聶乃至主流學者在接下來的幾十年裏壹直在追問的問題。科斯的回答相對簡單。這些是著名的圈子。他說，壹個城鎮的消費中心a的外圍有產業B和產業C，如果我們的企業位於外環C，那麽當交易成本邊際高於組織成本時，企業就會在環內擴張，這就是規模效應。這種擴張會導致規模進壹步擴大，增加管理難度，使其大於市場交易成本，進而橫向確定企業的邊界。向內環B的擴展也是如此，即與B的市場交易成本和組合組織成本相比，也可以通過邊際分析來確定邊界。應該說科斯的分析非常清晰，因為他借用了交易成本範式，交易成本是壹個應該解釋的概念。很多經濟學家對科斯的分析不滿意，經常從這個角度進行批判。的確，如果不能很好地定義科斯的交易成本概念，這裏的分析顯然會顯得模糊。後來的幾十年裏，縱橫壹體化的分析層出不窮，其中以威廉姆森的資產專用性分析和套牢問題最為著名，哈特的核心資產和剩余控制權概念也相繼提出。限於篇幅，我們就不做進壹步討論了。新制度經濟學采用動態分析方法，而不是壹般經濟學的靜態分析方法。這種理論方法來自德國歷史學派。德國歷史學派認為歷史是連貫的運動，不是靜態的，傳統經濟學采用靜態分析，這是新制度經濟學與其他經濟學的重要區別之壹。
作為20世紀異軍突起的經濟學，新制度經濟學的起點是科斯教授在1937年寫的論文《企業的本質》。在隨後的幾十年裏，盡管奧利弗·威廉斯(Oliver Williamsz)等經濟學家呼籲人們關註這壹方法，但經濟學家似乎對這篇文章視而不見。直到1959和1960年科斯的另外兩部巨著《社會的成本》出版後，他的思想才逐漸被大家所註意。然而，即便如此，引用的還是多，深入的研究者還是少。科斯經常抱怨這壹點。但是，在20世紀60年代，壹些偉大的經濟學家認為1937的文章過於模糊，邏輯上雖然無懈可擊，但操作起來很難。當然，張五常先生肯定不同意這種觀點。他認為這篇文章最重要，是後來1960文章的來源。
康芒斯、範布倫等老壹輩的制度經濟學家大多從社會道德倫理的角度對制度進行了批判。科斯認為此舉降低了他們自身的價值，留給後人的精神財富太少。