這時，葉玉森認識了柳亞子，加入了進步文學團體“南社”，開始了文學創作。《南社文選》、《南社詩選》收錄了葉玉森的多部作品，南社領袖之壹的高旭也曾為葉玉森的《袖海集》作詩。
葉玉森先任皖縣厘金局局長，後任周野、舒城稅務官。在和縣與詩畫之友、紹興人袁同住。1916年將與袁合唱的詩收入《白鷗紅鷗集》，傳世。這壹年七月，他奉命調查舒城水災，看到“毒蚊頑，而我虐，民為魚，近二千人。”田螺十九蕩，草飄，懸於”。南社的許多朋友因反對袁世凱而殉難，葉玉森非常沮喪。不久，柳亞子把他介紹給了長江巡撫使、安徽督軍倪嗣沖，任文秘。倪走後，委以重任，從東海接任書記壹職，馬。結束文書生涯後，葉玉森於1918任滁縣知事，1920調任潁上縣，1923秋任當塗縣縣長，1924年底離任，任蕪湖市籌備辦秘書長。當時皖北混亂、貧瘠、落後，他的為官生涯也很短暫。葉玉森沒有得到任何錢，他完全為軍閥服務來支持他的家庭。1929年，蔣介石在南京建立了國民政府，葉玉森的家鄉鎮江成為江蘇的省會，充滿了“新氣象”。由於葉玉森的智力天賦，許多政治家都來這裏請他做自己的幕僚長。此時，葉玉森對政治不再感興趣。謝絕了立法院長、江蘇省省長顧的省政府秘書長邀請，謝絕了杜的文學秘書邀請。他對蔣介石的所作所為非常反感。“九壹八事變”後，他在壹首詩中寫道:“東北有煙塵，兒女有大臣”，表達了對當局不抵抗政策的不滿。他給當塗縣令(1909—1977)寫了兩句詩:“人如龔、黃。論功勛老師，毛筆現在在西方。衛國無龍象，虎狼侵。家鄉是烏煙瘴氣的月亮，趕醉鬼都沒臉。”“快意在海天遊，長風鼓船。書矛森北土，花草李喜洲。與其學國歌，不如去看國歌。如果郁芳衣食無憂，他將永遠是壹只水甲蟲。”也就是說表達了這種不滿和憤怒。