丘小雄於1995年九月出生於廣西陸川縣，在1972年的時候開始參加工作，最初是擔任廣西貴縣鋼鐵廠工人，之後開始升任為廣西玉林地區工交辦公室的幹部。在1975年五月的時候加入了中國***產黨，在1978年的時候他開始就讀北京大學經濟系，直至1982年正式畢業。自1982年開始，丘小雄便開始正式進入中央，先是擔任中央辦公廳秘書局幹部，後又接連升職為副處長，處長，在1993年到1994年的時候丘小雄任中央財經領導小組辦公室正處級幹部 ，自1994年起，他開始任中央辦公廳、國務院辦公廳秘書，在此期間，他還在中南工業大學學習，獲得了工學碩士的學位，在2003年四月到六月的時候，他任國務院總理辦公室主任，同年的六月到20087年的三月，他任國務院研究室副主任、黨組成員兼國務院總理辦公室主任。
在2008年三月至2011年的五月，他任國務院副秘書長、機關黨組成員兼國務院總理辦公室主任，在2011年五月到2015年十二月他任國家稅務總局副局長、黨組成員 ，在2015年的十二月，國務院將丘小雄的國家稅務總局副局長的職務免去了。 在2008年三月至2011年的五月，他任國務院副秘書長、機關黨組成員兼國務院總理辦公室主任，在2011年五月到2015年十二月他任國家稅務總局副局長、黨組成員 ，在2015年的十二月，國務院將丘小雄的國家稅務總局副局長的職務免去了。?
其他職務在2018年四月的時候，丘小雄以中國稅務學會第壹副會長的身份參加了中國稅務學會召開的紀念改革開放40周年?回顧與展望?的專題座談會，在會議上，丘小雄發表了重要講話，他指出自黨的十八大壹來，稅收改革不斷深化。在黨的十九大後，中國特色社會主義進入了新時代，經濟已由高速增長階段轉向高質量發展階段，未來還將進壹步創造出更加優化、更具吸引力和競爭力的營商環境。