舜时，今回民区与呼和浩特其他地区称“并州徼外”，当时为荤粥族所居地。夏、商、周时，今呼和浩特地区或称“并州徼外”，或称“冀州徼外”。从公元前21世纪起，今回民区及呼和浩特其他地区就是中国北方少数民族的游牧地。约公元前300年，战国时期赵国的赵武灵王征服居于今呼和浩特地区的少数民族“林胡”和“楼烦”，在阴山山脉(大青山)的南麓设置云中郡(郡治在今托克托县古城村)，今回民区属云中郡领地。赵武灵王为防御北方游牧民族南下，沿阴山南麓筑长城，现在回民区沿大青山部分乡村仍有赵长城遗迹。

　　  秦始皇统一六国后，在其疆域内设36个郡，原赵国的云中郡仍为一郡，管理今呼和浩特大部地区。秦汉之时，居于漠北的匈奴族发展壮大起来，今呼和浩特地区成为汉王朝与匈奴政权必争之地。东汉末年，鲜卑的拓拔部占据今呼和浩特地区，建立北魏，又建盛乐都城(今和林格尔县土城子村)，今回民区属盛乐城管辖。北魏迁都平城(今山西大同)后，将盛乐都城安置归顺于魏的敕勒族，故今呼和浩特地区有“敕勒川”之称，回民区就在敕勒川地界内。至公元6世纪中期，呼和浩特地区曾是突厥族所居地，因北有白道口(今回民区境内)，故呼和浩特地区在隋朝时称“白道川”。隋王朝建立初，打败突厥，在今呼和浩特地区设榆林关总管府，不久又改为云州总管府。隋大业元年(公元605年)，改云州为定襄郡，今回民区为定襄郡所辖地。唐王朝先后在今呼和浩特地区设云中都护府，又称单于都护府，后又改置为东受降城，今回民区为其属地。

　　  五代十国时期，契丹族强盛后占据今呼和浩特地区，于契丹天禄元年(公元947年)改国号为辽国，设置“丰州”(城址今赛罕区白塔村北)，今回民区为丰州属地，属云中州西京道(今山西大同)管辖。金收国元年(公元1115年)，女真族在今呼和浩特地区灭辽，建立政权，金代沿袭辽制，今呼和浩特地区仍称丰州，改西京道为西京路，后金国将丰州改称天德总管府。元朝建立后，沿用金制，今呼和浩特地区仍称西京路丰州，时隶属中书省大同路管辖，今回民区为丰州辖区。

　　明朝建立初，为防北元，改郡州县制，在长城以北设置五卫，回民区属丰州卫属地。明永乐年间，统治势力南迁。明正统年间，放弃长城以北军事设置，使当时称为“丰州滩”的呼和浩特地区成为蒙古土默特部驻牧地，所以今呼和浩特地区有“土默川”之称，今回民区是土默川的一部分。后土默特部的阿勒坦汗于明隆庆五年(公元1571年)被封为顺义王，隆庆六年(公元1572年)，阿勒坦汗之妻三娘子在今呼和浩特玉泉区修建城池，时称“库库和屯”(即呼和浩特)，明万历三年(公元1575年)，城垣建成，明王朝赐名“归化城”，回民区为归化城属地。

　　道明末清初，今呼和浩特地区成为女真部建立的后金和漠南蒙古察哈尔部头领林丹汗争夺的西北战略要地。明思宗崇祯七年、后金太宗天聪八年(公元1634年)，后金统一内蒙古各部，林丹汗死，为加强对这里的管理，后金政权把居于今呼和浩特地区的土默特部分为左右两翼，设左右翼都统管理，今回民区为其辖地。清康熙三十二年(公元1693年)，清王朝命费扬古为安北将军，驻归化城，专管归化城都统、副都统及训练官民等事。康熙三十六年(公元1697年)，康熙将第六女(大排行为六，实为四公主)和硕恪靖公主下嫁给蒙古喀尔喀部土谢图汗之子敦多布多尔济，公主初居于清水河，后移住归化城，此后又移居归化城北2.5公里处，一座仿皇宅御花园格局建筑——公主府。清雍正元年(公元1723年)，清王朝将归化城军政、民政分设，归化城土默特副都统只管蒙古民政和军事，设归化城理事同知专管民政，对汉、回等民族进行管理，隶山西大同府。雍正七年(公元1729年)，归化城理事同知改属山西朔平府管辖。雍正十三年(公元1735年)，清王朝为加固北方防务，议定在归化城东北2.5里许筑一座新城，作为八旗兵驻防之所。乾隆四年六月初八(公元1739年7月13日)，绥远城竣工，历时2年零4个月，被称为“新城”或“满洲城”，归化城被称为“旧城”。绥远城建成后，为保证满洲八旗兵之军饷，增设绥远城理事同知，又称绥远城理事同知厅、绥远城粮饷同知厅、粮饷府(又称二府衙门)、绥远城厅。乾隆六年(公元1741年)，在归化城设归绥道，初称山西总理旗民蒙古事务分巡归绥兵备，后改称山西分巡归绥兵备道。其职权为总理旗民蒙古事务，隶属山西巡抚，管辖归化、绥远、托克托、和林格尔、清水河、萨拉齐六厅(除绥远城厅外，归、托、和、清、萨各厅又称口外五厅)，监督各厅税务，处理旗(满族)、民(汉族)、蒙古之间的交涉，刑讼事务，这是今呼和浩特地区旗、道、厅并立之始，今回民区属归化厅管辖范围。

　　民国元年(公元1912年)2月12日，清帝退位。4月，中华民国政府委派人员入归绥接管，沿袭清王朝旗、道、厅制。5月，变更建置，废除道、厅，设立旗、县，改归绥道为观察使公署，归化厅改称归化县。民国2年(公元1913年)，撤销归绥道观察使，同年撤销新城的粮饷理事同知厅(原绥远粮饷厅)，将原职权归于归化县，并将绥远、归化新旧二城正式合并称归绥县。民国3年(公元1914年)1月，中华民国政府批准设立绥远特别行政区。民国4年(公元1915)，中华民国政府下令在行政区与县之间新设绥远道，管辖行政区内的8个县。同年7月1日，废除绥远道，道尹公署改为绥远民政厅，恢复都统，下设军政、民政厅建置。同年9月，改绥远特别行政区都统公署为绥远省临时区政府，实行行省制。民国18年(公元1929年)1月1日，绥远省政府正式成立，省政府下设民政、财政、教育、建设四厅。同年，改省辖县知事为县长，并将归绥县定为省会(一级县)，全县下设4个区，其时，今回民区在第一区所辖范围内。民国26年(公元1937年)10月14日，日本侵略军侵占归绥。同年10月27日，德穆楚克栋鲁普(德王)在日本军国主义扶持下成立伪蒙古联盟自治政府；同日，将原绥远省省会归绥城区改称厚和豪特市。民国27年(公元1938年)1月10日，伪蒙古联盟自治政府将归绥县改称巴彦县；同年8月1日，撤销巴彦县，与市区合并，通称厚和特别市。民国28年(公元1939年)9月1日，取消“特别”二字，更名为厚和市。日伪政权在厚和市城区设6个镇，旧城设4个镇，今回民区在第四镇范围内。民国34年(公元1945年)8月15日，日本宣布无条件投降。8月22日，国民党傅作义部进驻归绥，绥远省政府驻新城将军衙署，行使管辖绥远省职权，将厚和市改称为归绥市，恢复归绥县，与市割界分治。当时归绥市市区原6个镇改为6个区，旧城有4个区，今回民区在第一区辖区内。各区设区公所，是归绥市政府派出机构。第一区公所设在马莲滩的可蓝召(今回民区新民街回族小学)内。民国38年(公元1949年)1月28日，中国共产党重新组建归绥县委和县政府。民国38年(公元1949年)9月19日，绥远和平起义。绥远和平解放后沿用原建置，归绥市区仍设6个区，今回民区在第一区境内。

　　中华人民共和国成立后，1950年1月20日，和平解放后的归绥市人民政府成立，旧政府机构基本没变，城区仍设6个区，下设6个区公所，属市人民政府派出机关。同年12月19日，经绥远省人民政府批准，将旧城东北角的回民聚居区，划为回民自治区并建立归绥市回民自治区人民政府，辖25个闾、100个居民小组。1951年，归绥市人民政府决定全市设4个区。同年，回民自治区撤销闾组，改建为6个居民委员会。1953年10月，经绥远省人民政府批准，归绥市人民政府对回民自治区区划调整，并增设吕祖庙街居民委员会。1954年3月6日，绥远省、内蒙古自治区正式合并，撤销绥远省建置，原绥远省辖区统一由内蒙古自治区人民政府领导。同月，中共中央蒙绥分局改称中共中央内蒙古分局(1955年7月1日，改称中共内蒙古自治区委员会)。同年4月25日，归绥市改称呼和浩特市。1956年9月，经内蒙古自治区人民政府批准，改变呼和浩特市行政区划，撤销庆凯区，其所辖5个居民委员会划归回民自治区，同时增设中山西路、水磨街等居民委员会。同年11月，根据内蒙古自治区、呼和浩特市两级人民政府决定，经回民自治区第二届人民代表大会第一次会议通过，呼和浩特市回民自治区改为呼和浩特市回民区。