1929年6月，鄧小平作為中***中央代表赴南寧領導廣西黨的工作。同年8月，張雲逸根據中***中央的指示，從上海經香港、廣州到達南寧。此時期，受中***中央派遣，先後到達廣西的還有葉季壯、袁任遠、李幹輝、袁振武、李謙、馮達飛等。
張雲逸到達南寧後，通過中***黨員俞作豫（俞作柏的弟弟，李明瑞的表弟，時任廣西警備第五大隊長），向李明瑞建議開辦壹個訓練初級軍官的教導總隊。李明瑞接受了這個建議，立即開辦廣西教導總隊，並由張雲逸擔任教導總隊副主任。
教導總隊有三個營9個連，都是從李明瑞的部隊裏抽調來的班、排長。之後，廣東和廣西地方黨組織陸續派譴工人和學生黨員安插在教導總隊各個連隊當幹部，並在各連隊建立了黨的秘密組織。此時，教導總隊***有1000多人，9個連的連幹部全部都是***產黨員，排長也是在學員中挑選思想革命和接近***產黨的學員擔任。還有壹部分黨員，則以教員的名義在總隊部工作，袁任遠任總隊政治教員。壹支由***產黨員秘密控制並形成領導核心的教導總隊就這樣建立起來。
教導總隊成立僅兩個月，便在學員中秘密發展黨員300多人，李天佑、盧紹武也是在這個時期加入***產黨。由於在連隊中建立了秘密黨支部，使每個黨員都能與群眾密切聯系，爭取更多的人加入***產黨，使革命的影響在全隊中迅速占據上風，從而爭取更多的群眾站到了革命陣營來。為後來組建第四大隊打好了基礎。
這個時期，張雲逸對教導隊中政治上反動的舊軍官，采取了“調虎離山”的辦法。他與俞作柏、李明瑞商議，給這些舊軍官以較高的職位，讓他們專門擔任軍事訓練。這種升遷職位的辦法實際上是剝奪了這些舊軍官的指揮權，使他們與群眾隔離開，並使他們的反動思想無法影響群眾，更無法利用指揮權阻礙黨對群眾的領導。
教導總隊建立壹個多月後，通過黨的活動，張雲逸又兼任了廣西警備第四大隊隊長。警備第四大隊，是李明瑞來廣西後，收容土匪、民團、散兵遊勇編成的隊伍。這支隊伍的成分復雜，紀律很壞。李明瑞之所以委任張雲逸兼任警備第四大隊隊長，是因為他知道：大革命時期，張雲逸曾在國民革命軍第四軍擔任過師參謀長。國民革命軍第四軍是壹支綽綽有名的軍紀嚴明且戰鬥力很強的部隊。當然李明瑞也知道，國民革命軍第四軍之所以士氣高漲是由於有***產黨員在部隊中進行政治工作。因此，李明瑞想利用張雲逸幫助他改造警備第四大隊。
當李明瑞與張雲逸商談警備第四大隊的改造工作時，張雲逸提出兩個條件：第壹，這支軍隊太壞，如要張雲逸兼任大隊長，必須由他提名配壹個得力的副大隊長協助；第二，改造工作必須采取堅決迅速的措施。盡管李明瑞明白張雲逸所謂的“措施”就是在部隊中進行政治工作，李明瑞雖有顧忌，但他還是同意了張雲逸的兩個條件。
張雲逸立即將與李明瑞談話的內容報告給中央黨組織。中***中央決定派李謙擔任副大隊。張雲逸和李謙到第四大隊後，即發動士兵群眾揭露克扣軍餉、虐待士兵的軍官罪行。士兵群眾壹經發動，鬥爭異常堅決，壹致要求嚴厲懲辦那些反動軍官。張雲逸立即嚴辦了兩個被士兵揭發的營長。還有壹個被揭發的營長，因為是李明瑞的表弟，出於策略上的考慮，暫時不處罰他。連以上的軍官，士兵義憤較大的予撤職，其他的送到教導隊當學員，進行教育改造。接著，又從教導隊雕來100名左右的***產黨員，擔當連排幹部。***產黨員符祿、何子祁分別擔任兩個營的營長；連以下的軍官，幾乎全是黨員。至此，警備第四大隊基本上已被黨組織控制。之後，對這支部隊進行整頓，進行革命教育，並且大量招收工人、農民和學生參軍。僅壹個下多月，部隊就從原來的1000多人擴大到2000多人，部隊紀律和精神面貌煥然壹新。
1929年8月，張雲逸的同鄉雲廣英得知張雲逸在南寧進行革命活動，他到南寧找到張雲逸要求參加革命。雲廣英說：“我這次到南寧就是請妳引導我參加革命，我決心革命到底，任何困難我都不怕！”張雲逸非常高興地歡迎這位同鄉參加革命。他對雲廣英說：“年輕人只有參加革命才有出路”。壹個星期後，張雲逸就指示在警察局工作的***產黨員陳銑（張雲逸的同鄉）推薦雲廣英到李明瑞部隊第十五師政治部當文書。開展兵運工作 陳銑和雲廣英利用開展兵運工作的時機，又陸續介紹壹些同鄉如林青、林鎮等人參加張雲逸的部隊。
1929年9月期間，俞作柏、李明瑞在廣西政權還不鞏固的情況下，就謀劃反蔣。
蔣桂戰爭，使廣西的政治形勢有了新的變化。中***中央決定加強右江地區的領導。1929年9月，派遣雷經天等人到右江去，建立中***黨右江特委，雷經天任特委書記。當時中***右江特委機關設在右江田東，在特委的領導下，右江地區恢復了工會、農會組織。右江沿岸各縣群眾的武裝鬥爭和韋拔群領導的群眾武裝相互呼應，聲勢浩大。
1929年10月，俞作柏、李明瑞倉促率領部隊進攻親蔣的廣東的軍閥陳濟棠。此時，李明瑞來廣西時間很短，立足未穩。且只有三個主力師，部隊內部又不壹致，政治、經濟基礎都很薄弱。廣西黨組織和張雲逸等人估計俞、李進攻廣東陳濟棠壹定會失敗，決定利用軍閥混戰之際，大膽發展革命力量。張雲逸借口教導隊、第四大隊及第五大隊還沒有訓練好，不能配合作戰，建議李明瑞不要把這三支隊伍帶去廣東作戰，而是留守廣西維護後方。經張雲逸的壹再堅持，俞、李終於同意教導總隊、第四大隊和第五大隊留守廣西（但從教導總隊調走300多人回各師去）。並委任張雲逸兼任南寧警備司令。
俞、李帶部隊開拔廣東後，張雲逸等人即決定第四大隊派壹個營去右江地區，第五大隊排壹個營去左江地區，其余部隊留守南寧。同時張雲逸利用南寧警備司令的職權，接管了廣西省軍械庫。軍械庫裏儲存著五六千支步槍以及山炮、迫擊炮、機關槍、電臺和堆積如山的彈藥。
張雲逸還調動汽船停靠在邕江邊待用，壹面在部隊中作各種應變的準備工作，壹面協同地方組織發動群眾準備策應。
俞、李的失敗比張雲逸等人預料的還要快。原來，李明瑞三個主力師的楊騰輝、黃權、呂煥炎等師長，早就心懷不滿，部隊剛到桂平，他們立刻叛變，把三個師及特務營全部拉去投降。俞、李身邊只剩下幾個馬弁，黯然逃離部隊。前後僅17天左右的時間，俞、李就結束了他們反蔣的軍事行動，兩人倉皇回到南寧了後，躲到到左江去了。
張雲逸等人和廣西地方黨組織聽到前方的消息後，當即按原來的決定，立刻組織大批的部隊和民工，把軍械庫裏的槍炮和彈藥搬上預先停靠在邕江邊的汽船，準備撤退到右江。
在獲知李明瑞、俞作柏逃往左江後，鄧小平即率領黨委和壹批地方做秘密工作的同誌從水路離開南寧，並指揮軍械船和警衛部隊。而張雲逸則著手布置率部隊從陸路撤往右江和鄧小平會合。
正當張雲逸布置部隊撤往右江的時候，討蔣失敗的消息卻在教導隊掀起了軒然大波。學員中大多是從三個主力師調來的，壹聽說部隊倒戈，都鬧著要回原部隊去。壹些壞分子亦趁亂鼓動，風潮越鬧越大。
在這個緊要關頭，教導隊的地下黨組織連夜把各連隊支部書記和委員召集研究對策，決定第二天將部隊分為許多小組，各組都有黨員參加，對那些反動分子進行鬥爭，在群眾面前揭露投降分子的反動本質，堅決反對投降的可恥行為，使主張投降的反動分子在群眾中孤立起來。同時，告訴群眾革命的光明前途，爭取大多數群眾站到革命這邊來。經過壹天的反復爭論，大部分人認清了是非，表示願意跟隨張雲逸到右江去幹革命，。但還是有些人堅持要走。
下午，張雲逸把全體教導隊學員集合起來，他對學員們說：“有些同學還是要走，這也可以，我們革命部隊是由有革命覺悟的人組成的。現在就站隊，願意跟我們去右江繼續革命的，站到這邊，願意去投降反動派的，站在那壹邊！”隊伍立刻散亂了，大部分擁到張雲逸指向革命的壹邊。那些反動的軍官。兵痞、壞分子，則往另壹邊站。還有些人在中間猶豫，許多黨員和進步的學員就喊著他們的名字叫喚：“站到這邊來吧！”“壹失足成千古恨哪，看清前途，不要幹反動派去呀！”那些猶豫著的、甚至已經站到那邊去的人，又陸續走向革命的這壹邊來。最後清點人數，教導隊中願意跟著張雲逸到右江的有500多人，堅決要走的有100人左右。
第二天，教導隊特地舉行壹次歡送會，對那些投降分子，作了最後壹次教育工作，學員們紛紛上臺講話，有學員說：“我們都是同學，是壹家人，妳們在那邊幹，我們在這邊幹，都應該為勞苦大眾利益盡力，不要替軍閥升官發財賣命打仗”。歡送會後，張雲逸下令把那些堅決要走的人的槍統統留下，發給路費，把他們送走。隨後,張雲逸帶領教導隊和第四大隊按計劃出發。
鄧小平率領廣西黨委和地方秘密工作的同誌及警衛部隊，乘船溯右江行駛。張雲逸帶領教導總隊和第四大隊，從陸路掩護前進。
教導隊和第四大隊連續幾天急行軍，途經恩隆到達田東鎮。部隊到達田東後，右江特委由秘密工作狀態變為公開狀態。
張雲逸率領的部隊到達田東鎮不久，軍械船也到達了。隨後，葉季壯領著壹個張雲逸不認識的約20多歲的青年同誌，到第四大隊隊部。
葉季壯向張雲逸介紹說：“這位就是鄧小平同誌！”
“哦！妳就是鄧小平！”張雲逸高興地緊緊握住鄧小平的手。在此之前，他們還未見過面。但連續三、四個月的時間，他們不斷通過地下秘密交通相互聯系，商議起義的每壹個細節。
右江特委書記雷經天等人也隨後來到第四大隊隊部。鄧小平對大家說：我們明天要往百色去，把大部分的軍械都帶去。目前不用的重武器和彈藥，則疏散到東蘭、田東的山區裏保存起來。
第二天，部隊和特委壹起出發，走了兩天的路程，於10月下旬到達百色。
1929年10月22日，鄧小平在百色召開黨委會議（後稱：敵前委員會），這次會議決定了幾件事：第壹，公開在部隊和群眾中宣傳***產黨的主張，廣泛發動群眾。第二，整頓、補充部隊，實行官兵平等，建立士兵委員會，反對軍閥制度，反對貪汙，反對虐待士兵。第三，組織和武裝群眾，通過地方黨組織將槍支發給群眾，以便進行反霸鬥爭。第四，繼續清洗部隊中的反革命分子。
這次會議還研究了稅收問題。四大隊不能指揮地方政府，必須有公開的行政名義，才能取得稅收，為起義籌措經費。於是大家想到舊政府原設有右江督辦和左江督辦，於是決定利用舊有的督辦官銜，宣布張雲逸為右江督辦，宣布俞作豫為左江督辦。右江壹帶比較富庶，特別是煙稅更為可觀。張雲逸立即以右江督辦的名義，通知右江各縣縣長、稅務局長將全部稅款上繳，為武裝起義準備了經費。
壹些大土豪與廣西警備三大隊勾結，請他們來右江駐防，以對付地方黨組織和群眾進行的反霸鬥爭。張雲逸與四大隊獲悉情報，提前做好布置。警備三大隊長熊鎬派人前來聯系駐防時，張雲逸佯裝歡迎。
10月28日，警備三大隊1000多人進入百色，即中了張雲逸第四大隊的埋伏，被包圍的警備三大隊中，除了壹小部分反動分子稍作抵抗，其余的1000多人全部當了俘虜。這場伏擊戰幾乎沒費壹槍壹彈，就繳獲了700多支槍。為百色起義掃清了障礙。
之後，中***中央批準了鄧小平、張雲逸關於起義的匯報請示，指示在左、右江地區創建根據地，和創建紅軍。中***中央給這支起義部隊的番號是紅七軍。委任張雲逸擔任紅七軍軍長，鄧小平為紅七軍政治委員和前委書記。待壹切準備就緒就宣布起義。
接到中央關於起義的指示後，鄧小平和張雲逸決定用40天的時間做起義前的準備工作。同時，鄧小平到左江去做俞作豫的工作。
張雲逸根據黨委決定，將部隊編成三個縱隊。原四大隊編為第壹縱隊，李謙任縱隊司令，沈靜齋任政治部主任。原機關槍營、特務營以及思林、奉議、恩隆幾縣的地方武裝合編為第二縱隊，胡斌任司令，袁任遠任政治部主任。韋拔群領導的東蘭、鳳山壹帶的地方武裝編為第三縱隊，韋拔群任縱隊司令，李樸任政治部主任。壹個縱隊實力相當於壹個大團，後來改為19、20、21三個師。同時，擴大教導總隊，從各縱隊和地方武裝中抽調班、排長及優秀戰士來訓練，以培養初級幹部。這時，部隊的成分有較大的變化，戰士中從舊軍隊來的只有千余人，其余的都是右江的農民、工人和進步學生。軍部各機構也建立起來了。壹切都準備就緒。
1929年12月11日，在廣州起義二周年紀念日那天，鄧小平、張雲逸在右江百色宣布起義，公布紅七軍的番號。紅七軍的幹部和戰士，每人都領到壹套新灰色軍服，軍帽上綴著紅五角星。同時，上至軍長，下至每個戰士，都同樣領到第壹個月的薪餉——20塊銀元。
這壹天，同時在田東宣布成立右江蘇維埃政府。在韋拔群率領的農民武裝配合下，百色起義勝利舉行。右江各縣城鄉的農民，都熱烈慶祝右江蘇維埃政府和紅七軍的誕生。張雲逸率紅七軍戰士到田東鎮參加慶祝大會。在田東鎮北的廣場上，紅軍戰士威武整齊地排列在主席臺前；農民們敲鑼打鼓；婦女兒童穿紅著綠，從百裏外趕來參加慶祝會。廣場上擠滿了成千上萬的群眾。紅旗如海，歡聲如雷。廣場上還進行了各種文藝活動，演戲，唱民歌等。
這壹整天，右江的人們都沈浸在狂歡之中。右江蘇維埃政府招待外縣來參加慶祝會的代表吃了飯。
下午，張雲逸帶著部隊戰士乘著壹艘掛滿鐮刀鐵錘紅旗的汽船回百色時，沿岸農民都從沸騰的村莊湧到江邊來，農民們敲著鑼鼓，舉著紅旗，朝船上歡呼：“***產黨萬歲！蘇維埃萬歲！”船上的人也不斷向岸上的人們揮舞紅旗，高呼口號。江上江中，口號聲匯成壹股巨大的聲浪。這壹天，晴空萬裏，陽光燦爛，紅旗漫舞。許多參加起義紅軍戰士都激動得流出眼淚。
在李明瑞部隊負責兵運工作的雲廣英得知百色起義的消息後，他和陳銑兩人立即租了壹條小木艇趕往百色。當他們到達百色時，慶祝活動剛剛結束，他倆找到張雲逸。張雲逸見到雲廣英時，緊緊的握著他的手說：“妳參加革命的誌願實現了，分配妳在軍部經理處工作，這個任務很繁重，要很好地工作，保證全軍的給養。”
紅七軍就這樣迅速、順利地建立起來。
紅七軍建立後，俞作柏逃到了香港。李明瑞經過幾番挫折後，在中***黨的影響下，轉到了革命陣營。之後，他加入中國***產黨，成為堅定的革命者。
1930年2月，俞作豫領導的警備第五大隊也在左江宣布起義，成立紅八軍。俞作豫任軍長，鄧小平任政委，何世昌任政治部主任。李明瑞任紅七軍、紅八軍總指揮。
紅八軍成立後，有力地策應了右江地區的革命鬥爭，但不久就遭到李宗仁部梁朝璣的進攻。紅八軍進行了英勇的戰鬥，終因敵我力量懸殊，起義部隊基礎較差，而遭到了嚴重失敗。紅八軍最後只剩下幾百人，由袁振武等人率領，轉戰到右江與紅七軍匯合，並編入紅七軍。
1930年2月，桂系軍閥調集大批軍隊向右江地區進攻。張雲逸和李明瑞帶領部隊在隆安、亭泗予敵重創。4、5月間，又率紅七軍壹、二縱隊到江西、貴州邊界進行遊擊戰爭，攻占貴州的榕江城。6月，張雲逸等又帶領紅七軍回師右江，收復百色，解放了右江沿岸的恩隆、思林等縣。紅七軍前委決定在右江地區開展以土地革命為中心的根據地建設。
同年9月，中央南方局代表到右江傳達中央政治局6月11日的決議，指令紅七軍打下柳州、桂林和廣州。
1930年10月，紅七軍奉命北上。部隊經歷了戰懷遠，攻四把，打長安，及大戰武崗城等戰鬥。在多次攻打敵人重兵據守的城鎮中，由於敵我力量懸殊，紅七軍受到重大損失，部隊的元氣大傷。
1931年1月初，紅七軍攻進全州縣城。軍前委在全州召開會議，鄧小平、張雲逸和前委多數同誌總結了幾個月的教訓，決定取消攻打城市的冒險軍事行動。隨後，紅七軍前委帶領部隊沿湘桂粵邊界前進，以便與毛澤東、朱德領導的中央紅軍匯合。
年2月初，紅七軍在廣東邊界樂昌縣搶渡武水河的戰鬥中，鄧小平和李明瑞帶領先頭1931部隊55團過河以後，敵人以密集的迫擊炮、機關槍火力封鎖渡口，截斷張雲逸指揮的後續部隊58團和軍直屬隊。這時如果冒險搶渡，必然遭到慘痛失敗。在這關鍵時刻，張雲逸騎馬疾奔到渡口，拿出望遠鏡觀察敵情。他當機立斷，壹面命令雲廣英帶上部分彈藥和經費，同少量戰鬥人員乘最後壹艘木船搶渡過河，以保證先頭部隊的給養；壹面命令後續部隊停止渡河並迅速後撤。張雲逸率領58團和軍直屬部隊繞道坪石渡河，向湘贛崇義蘇區進軍。
雲廣英率隊搶渡過河後，趕上先頭部隊並轉達張雲逸的指令。鄧小平、李明瑞即率領55團向贛南崇義行進。張雲逸和鄧小平分別率領的兩支隊伍在贛南永新匯合。匯合後，紅七軍在湘贛蘇區，配合中央紅軍粉碎敵人第二次“圍剿”後，又向中央蘇區前進。
1931年7月，紅七軍在於都縣橋頭圩與中央紅軍會師。不久，中央革命軍事委員會主席毛澤東和總司令朱德接見了紅七軍領導人張雲逸和李明瑞。
隨後，張雲逸和李明瑞帶領紅七軍指戰員參加第三次反“圍剿”。戰鬥結束後，紅七軍正式編入紅三軍團。