公開資料顯示，丘小雄1955年9月於廣西出生，畢業於北京大學經濟系，與吳稼祥是同學，與現任中共央行行長易綱是舍友。他畢業後就進入中南海，曾任中央辦公廳祕書局幹部、副處長、處長等職。1985年，溫家寶進入中共中央辦公廳擔任副主任、主任，丘小雄一直在其領導下工作；1994年起丘小雄成爲溫家寶的祕書。2003年，溫家寶升任國務院總理後，丘小雄出任總理辦公室主任，2008年兼任國務院副祕書長，被視爲溫家寶大管家。溫家寶無論外訪還是在國內考察，都能看到丘小雄的身影。
溫家寶於2013年3月15日卸任總理一職，在他退休前一年，丘小雄調任國稅總局任副局長。當時網絡關於丘小雄調任的猜測甚囂塵上。
蘋果日報在2011年丘小雄調任國家稅務總局後發表評論稱，大祕是中共政壇的特有現象。按中共慣例，中央政治局委員可配備四大祕書，包括政治祕書、機要祕書、警衛祕書及生活祕書。大祕就是政治祕書，是領導人的文膽、智囊、大管家，他們多爲司局級、副部級，一旦外放，多能官升一級，或佔據肥缺。
評論稱，丘小雄原任國務院副祕書長兼總理辦公室主任，現出任國稅局副局長，有降格之嫌。《中國稅務報》在頭版報導有關任命時，還將“丘小雄”錯登爲“邱小雄”，雖然後面有更正與道歉，但是“令人懷疑官方對這一任命之輕忽”。
另有分析稱，臨近“十八大”前夕，本該是中共高層身邊的官員外放和找到更好歸宿的收穫時節，但溫家寶連身邊最貼近的工作人員都難保，反映出中共黨內的派系鬥爭已經激烈到了何等強烈的程度。
公開資料顯示，2011年5月，丘小雄調任國家稅務總局副局長、黨組成員。直到2015年12月，中共國務院免去丘小雄職務，期間其職務沒有任何調整。
財新網在2015年的報導中說，丘小雄是“到齡卸任”。
