肅北縣境在先秦時期就有遊牧民族活動；西漢時並入中原王朝版圖，屬敦煌郡；後戰事不斷，歸屬屢易，地方政權、遊牧民族勢力範圍犬牙交錯，中央政權控制力較弱。清代起屬甘肅省，民國二十五年（1937年）設肅北設置局。1950年7月解放，1955年肅北蒙古族自治縣成立。
肅北縣南北自然環境差異極大，南山地區南部祁連山區平均海拔3500米以上，團結峰海拔5826.8米，為甘肅省最高峰；山麓為沙礫戈壁傾斜高平原區。北山地區為中低山和殘丘地貌，戈壁廣布。旅遊景點有黨河峽谷、透明夢柯冰川、鹽池灣國家級自然保護區、肅北人民公園、五個廟石窟等。
肅北縣有天然草場4676萬畝，主要飼養絨山羊、牦牛、駱駝等牲畜，另有少量耕地；煤炭、黃金、鐵礦及有色金屬資源豐富，采礦業為肅北縣經濟支柱。2012年完成地區生產總值37.62億元。