鄂爾多斯市圖書館原名伊克昭盟圖書館，隸屬於鄂爾多斯市文化局。2001年撤盟設市後更名為鄂爾多斯市圖書館，2009年7月搬遷到康巴什。
從籌備建館到建館初期（1955年至1963年夏）
1955年春，伊克昭盟文衛黨組組織成立“伊克昭盟圖書館籌備委員會”或“籌備小組”（無原始文件和會議記錄，憑老圖書館工作者回憶整理），成員有任佩文（文衛黨組委員）、王秀雲、袁彩華、陳玉蘭。
1956年4月，伊克昭盟圖書館建成並向社會開放。臨時負責人王秀雲（女），工作人員袁彩華（女），陳玉蘭（女）。圖書館屬於全額事業建制性質，年財政核定事業經費200元。藏書2000余冊（其中蒙文圖書300余冊），蒙漢文報刊150多種，館藏80%來自於社會各界和地方黨政機關無償捐贈。內設采編、圖書外借、報刊閱覽、書庫等機構。館內閱覽席位100多個，日平均接待讀者400多人次，由於閱覽席位少，圖書館的院落也經常成為讀者閱讀的場所。為滿足讀者的借閱需求，圖書館將開館時間延長至夜間十點。陣地活動有：讀者知識講座、時勢講座、書目推薦等。
同年，王秀雲赴內蒙古圖書館學習，參加了“全區公***圖書館工作人員訓練班”，接受專業培訓三個月。此後，伊克昭盟圖書館的內部管理開始向行業規範化轉變。
1958年夏，反右運動擴大化期間，王秀雲隨愛人下放準格爾旗農村勞動鍛煉，調離圖書館，圖書館工作人員陳玉蘭同時被下放勞動。
1958年至1959年，劉慶曾任臨時負責人，主持圖書館工作，後於1959年末調回原籍天津。
1960年，圖書館無館長，受運動影響，工作受阻，工作人員僅留袁彩華、雷玉英兩人。
1961年11月，劉誌壯任副館長，主持工作，工作人員9人，藏書3萬余冊，年總經費6000元。
1961年11月，原伊克昭盟盟委講師團幹部趙恒玉調入圖書館工作，從事圖書采購和分類編目工作（兼圖書館會計和保衛幹事職務），後成為圖書館的業務骨幹。
1962年1月，原伊克昭盟盟委講師團團長李群調入伊克昭盟圖書館任館長，主持圖書館工作。
1963年5月，受反右擴大化運動的牽連，建館人之壹的袁彩華調伊克昭盟新華書店工作。
1963年，李群調離圖書館，由副館長劉誌壯主持圖書館工作。
搬遷至伊克昭盟第壹中學校辦工廠階段（1963年秋至1966年初）
1963年秋，依據伊克昭盟文教局文件（壹說會議決議），位於現今鄂爾多斯市第壹中學東墻外，東勝公園西墻外，原伊克昭盟第壹中學校辦勤工儉學工廠廠房，劃歸伊克昭盟圖書館，伊克昭盟圖書館首次搬遷，館舍建築面積約1500平方米。工作人員5人，館藏圖書1萬多冊。原有館舍劃歸“伊克昭盟文聯籌備委員會”。
1963年至1965年，工作人員三上北京采購圖書3萬多冊，充實館藏。
1964年伊克昭盟公署文教處（或文衛口臨時黨組）指定白誌仁擔任伊克昭盟圖書館臨時負責人，主持工作。副館長劉誌壯被下放鄂托克旗早梢公社任副社長，接受勞動鍛煉。
1966年初，圖書館館藏圖書達到7萬余冊，設立了兩套完整的分類目錄和書名目錄。收藏裝訂成冊的過期報刊1萬余冊。豐富的館藏吸引了眾多的讀者，圖書館日均接待借閱讀者500余人次。
文革時期（1966年6月至1976年秋）
1966年5月至1967年，受“文革”影響，趙恒玉被定為現行反革命，兩次遣送原籍河北新河縣勞動改造。伊克昭盟圖書館開始“閉館鬧革命”，只講政治，不搞業務，正常工作停頓。因無人管理，7萬余冊館藏大部分遭遇盜搶，館內設施設備遭受人為破壞。期間王秀英任臨時負責人，主持工作。
1968年，伊克昭盟新華書店投資8萬元，伊克昭盟圖書館由地方財政撥專款3萬元，在現鄂爾多斯市新華書店原址合建650平方米磚混結構二層辦公樓壹處，於當年年底建成（當時未明確產權，後因圖書館搬出，產權自然轉移至新華書店）。
1969年，伊克昭盟圖書館搬遷合建樓，與伊克昭盟新華書店聯合辦公，新華書店占居壹樓，圖書館占居二樓，各占325平方米。同年“伊克昭盟新華書店、伊克昭盟圖書館革命委員會”成立，革委會主任崔自強主持兩個單位的工作，財務分設。副主任王文成，委員雷玉英、王秀英、周萬萬。
1970年10月，王秀英調離圖書館，後隨軍至天津大港油田工作。
1974年，圖書館對外恢復原館名“伊克昭盟圖書館”，孫鳳亭任副館長，主持圖書館工作。當年無購書經費，館藏圖書 6萬冊。工作人員有：張秀蘭、雷玉英、包金月、娜仁、肖德清。圖書館內設中文借書處，開辦常規性的借閱工作。
1975年1月，孫鳳亭卸任退休，於1982年4月轉為離休。
1976年4月14日，經伊克昭盟革命委員會文教局批準，喬廣昌任伊克昭盟圖書館副館長、黨支部副書記，主持工作。
搬遷至東勝縣文化館時期（1977年秋至1984年3月）
1977年秋，經伊克昭盟革命委員會文教局批準決定，伊克昭盟圖書館搬遷至東勝縣文化館壹樓開展工作。圖書館內設采編室、外借室、閱覽室、書庫等機構，館藏圖書10萬多冊，總面積200多平方米，閱覽座席100個，日平均接待讀者100多人次。工作人員有：喬廣昌、張秀蘭、雷玉英、娜仁、肖德清、包金月、朱秀常等。年業務經費1萬多元。同年，劉誌壯回圖書館，任副館長。
1978年10月23日，經伊克昭盟革命委員會文化局批準，劉誌壯任伊克昭盟圖書館館長，主持工作。
1979年8月4日，經伊克昭盟革命委員會文化局同意，趙恒玉平反後回圖書館，從事文獻采編工作。10月，劉誌壯卸任，調伊克昭盟歌劇團任團長。10月30日，經伊克昭盟文化局批準同意，袁彩華調回圖書館工作，任副館長，分管業務工作。
1980年8月，經伊克昭盟文化局黨總支批準，任命朱秀常為伊克昭盟圖書館專職行政秘書。伊克昭盟圖書館、伊克昭盟群藝館組建壹個黨支部，成員3人。11月8日，伊克昭盟圖書館單獨組建黨支部， 25日，經改選支部書記由伊克昭盟圖書館副館長袁彩華擔任，趙恒玉擔任宣傳委員，朱秀常擔任組織和青年委員。圖書館在職職工14人。喬廣昌於1980年底退休，於1982年4月轉為離休。
1981年12月18日，經伊克昭盟文化局機關黨總支批準，伊克昭盟圖書館黨支部改選，劉誌壯任黨支部書記，袁彩華任組織、紀檢、保衛委員，朱秀常任青年、宣傳委員。12月29日，劉誌壯兼任盟直文化系統總支委員會宣傳委員。
1982年1月，伊克昭盟文化局批準，劉誌壯任伊克昭盟圖書館館長、黨支部書記，主持全盤工作。在職職工17人。
第四次大遷徙，搬遷至東勝區伊金霍洛東街22號階段 （1983年10月至2009年6月）
1983年10月，位於原東勝縣新華東街，現今東勝區伊金霍洛東街22號的“伊克昭盟圖書館樓”落成，，圖書館開始了第四次大遷徙。
1984年4月1日，經過近6個月的開館前期準備，伊盟圖書館完成了11萬冊館藏文獻的搬遷和加工、整理、上架工作，正式向社會開放，圖書館從此結束了無固定館址的歷史。 4月7日，伊克昭盟圖書館組建“館務委員會”，館務委員會主任由劉誌壯擔任，副主任由袁彩華擔任，委員：雷玉英、趙恒玉、朱秀常。圖書館內設行政辦公室、主任由朱秀常擔任；設采編部，主任由趙恒玉擔任；設宣傳輔導部，主任空缺；設借閱部（含借書處、綜合閱覽室、社科閱覽室、科技閱覽室），主任由雷玉英擔任，副主任由張秀蘭擔任。圖書館核定編制數30人，實有職工32人。當時全社會正處於學習熱、考試熱，民眾讀書求知的欲望強烈，圖書館僅有的250個閱覽席位和11萬冊館藏圖書，遠不能滿足東勝城區人民群眾的借閱需求，圖書館各閱覽室、借書處讀者經常呈現暴滿狀態。這種狀況壹直持續到20世紀90年代初期。第四次大搬遷不僅奠定了伊克昭盟圖書館事業發展的堅實基礎，並且從此成為東勝地區廣大人民群眾的主要讀書陣地和文化娛樂、休閑場所。
第五次大遷徙——遷至康巴什新區（2009年7月至今）
鄂爾多斯市圖書館2008年12月開始進入新館搬遷準備階段,2009年 5月中旬打包架上的各類文獻。經過1個月的奮戰，將28萬冊文獻分類整理打包。 6月底，館務委員會將70多名館員分組和分工，各負其責，利用壹個星期時間，從舊館登記裝車、跟車、到新館卸車，同時將文獻卸入應歸放的功能區域，順利、圓滿的完成了搬遷工作任務。