顧準於1915年生於上海的壹個小商人家庭，祖籍蘇州，父親姓陳，經營棉花生意，後破產。顧準有兄弟姐妹10人，他排行第五，隨母姓。在初中於黃炎培創辦的中華職業學校就讀兩年學習會計，畢業後，因家境清貧，無力繼續求學，12歲就到潘序倫先生創辦的上海立信會計事務所當練習生。隨後通過自學會計學，成為掌握現代會計知識的專業人士。
1930年，十五歲的他便以其在會計學方面的成就和造詣，在上海工商界嶄露頭角，被譽為“奇特的少年天才”。20世紀30年代，有多部會計學著作問世，是上海知名的會計學家。1934年完成的會計學著作《銀行會計》，成為國內第壹本銀行會計教材，被各大學采用，同時開始在大學任兼職教授。
顧準於1930年組織秘密的馬克思主義學習小組——進社，後轉入武衛會。同年10月，因武衛會組織被破壞，第壹次流亡去北平。
1934年後，曾任中國民族武裝自衛會上海分會主席、總會宣傳部副部長。
1935年加入中國***產黨。1935年冬北平“壹二·九”運動後，全國掀起了抗日救國高潮。
1936年2月，自北平回到上海，先後擔任過上海職業界救國會黨團書記，職員支部書記，江蘇省職委宣傳部長、書記、江蘇省委副書記。
從1936年冬開始，全國人民抗日救亡的呼聲壹浪高過壹浪。1936年初成立的上海職業界救國會（簡稱“職救”），其公開負責人是沙千裏等人，中間有壹個秘密的黨的核心小組，由顧準、王紀華、林楓（即宋書常）和雍文濤等組成，幾個人黨的組織關系不同，雍文濤是文委系統，顧準則是武衛會系統。采取的行動，既有公開出面的聯合指揮部，都是各行各業的代表，如知名人物有章乃器、沙千裏、沈體蘭、張宗群、胡子嬰等，更有壹個在他們後面的進行實際工作的核心小組內部指揮部。每次遊行示威，都作了精心組織與指揮。 在文委工作期間，與經濟學家孫冶方(當時為文委書記)認識並***事。1940年後，曾任中***蘇南澄錫虞工委書記、專員，江南行政委員會秘書長、蘇北鹽阜區財經處副處長、淮海區財經處副處長。後赴延安中央黨校學習。
1946年1月回到華東後，先後擔任中***中華分局財委委員，淮陰利豐棉業公司總經理，蘇中區行政公署貨管處處長、中***華中分局財委委員、山東省財政廳廳長。解放軍占領上海前夕，任青州總隊（接管上海財經工作的壹支幹部隊伍）隊長，積極準備接管上海。1949年5月，隨軍回到上海。任上海市財政局局長兼稅務局長、上海市財經委員會副主任和華東軍政委員會財政部副部長，為建國後上海的財稅工作作出了突出貢獻。在他接管上海財政系統的三年時間裏，這座中國最大的工商城市已經從國民黨手裏瀕於崩潰的爛攤子變成支撐***產黨新中央政府的最大財源，也為日後的計劃經濟體制奠定下基礎。