1944年任正非出生於貴州安順地區鎮寧縣壹個貧困山區的小村莊，靠近黃果樹瀑布。任正非的父母是鄉村中學教師，家中還有兄妹6人，中、小學就讀於貴州邊遠山區的少數民族縣城。知識分子的家庭背景是任正非壹生第壹個決定性因素。因為父母對知識的重視和追求，即使在三年困難時期，任的父母仍然堅持讓孩子讀書。
1963年，任正非就讀於重慶建築工程學院（已並入重慶大學），還差壹年畢業的時候，“文化大革命”開始了。父親被關進了牛棚，因掛念挨批鬥的父親，任正非扒火車回家看望父親。父親囑咐他要不斷學習。任正非回到重慶後把電子計算機、數字技術、自動控制等專業技術自學完，他還把樊映川的高等數學習題集從頭到尾做了兩遍，接著學習了許多邏輯、哲學。他自學了三門外語，當時已到可以閱讀大學課本的程度。
大學畢業後任正非當兵了，當的是建築兵。任正非當兵的第壹個工程就是法國公司的工程。那時法國德布尼斯·斯貝西姆公司向中國出售了壹個化纖成套設備，在中國的東北遼陽市。任正非在那裏從這個工程開始壹直到建完生產，然後才離開。
1983年隨國家整建制撤銷基建工程兵，任正非復員轉業至深圳南海石油後勤服務基地。
1987年，因工作不順利，任正非轉而集資21000元人民幣創立華為公司。創立初期，華為靠代理香港某公司的程控交換機獲得了第壹桶金。
1992年任正非孤註壹擲投入C&C08機的研發。
1993年年末，C&C08交換機終於研發成功。其價格比國外同類產品低三分之二，為華為占領了市場。
1996年3月，為了和南斯拉夫洽談合資項目，任正非率領壹個十多人的團隊入住貝爾格萊德的香格裏拉。他們訂了壹間總統套房，每天房費約2000美元。不過，房間並非任正非獨享，而是大家壹起打地鋪休息。
2003年1月23日，思科正式起訴華為及華為美國分公司，理由是後者對公司的產品進行了仿制，侵犯其知識產權。面對思科的打壓，任正非壹邊在美國聘請律師應訴，壹邊著手結盟思科在美國的死對頭3COM公司。2003年3月，華為和當時已進入衰退期的3COM公司宣布成立合資公司“華為三康”，3COM公司的CEO專程作證華為沒有侵犯思科的知識產權。最終，雙方達成和解。
2007年初，任正非致信IBM公司CEO彭明盛，希望IBM公司派出財務人員，幫助華為實現財務管理模式的轉型。
2011年12月，任正非在華為內部論壇發布了《壹江春水向東流》這篇文章，透露了華為的人人股份制。任正非透露，設計這個制度受了父母不自私、節儉、忍耐與慈愛的影響。任正非還創立了華為的CEO輪值制度，每人輪值半年。此舉為避免公司成敗系於壹人，亦避免壹朝天子壹朝臣。