1950年12月19日前，回民区历史上没有独立建置。

　　民国18年（1921年）1月1日，绥远省政府成立，今回民区是归绥县第一区辖区的一部分。1949年9月19日，绥远和平起义后沿用原建置。归绥市区仍设6个区，今回民区在第一区境内。

　　1950年1月20日，归绥市人民政府成立。同年12月19日，经绥远省人民政府批准，将归绥市旧城东北角地区的回族聚居区划出，建立归绥市回民自治区人民政府。回民自治区的辖区为，旧城北门外转盘起（转盘划归回民自治区）向北通过礼拜寺巷、和合桥、至通道街北端向东拐，以小教场南墙为界，北部划归第六区，南部划归回民自治区；东至营坊道，顺斜便道向南至吕祖庙街东口（斜便道两旁住户划归回民自治区）；由此向北新民街以西至丁茶馆北口（口外的市妇科住院划归回民自治区）；沿可蓝召（召和廊划归回民自治区）通过新民街、东寺巷、东顺城街至北门外转盘。共辖25个闾，100个居民小组。

　　在回民自治区成立之前，中共归绥市委派出以马志新（回族）为首的回民工作组到回民聚居的地方开展工作。回民工作组为帮助回族群众发展经济，结合当地实际，成立一个行政和经济综合性管理组织——归绥市回民生产供应社，马志新兼任供应社主任。供应社在回民工作组的领导下，一是为中国共产党选拔、推荐和培养少数民族干部；二是组织转行转业，安排回族无业人员就业；三是动员社会投资，积极发展民族工商业。

　　回民自治区成立后的12月28日，经中共绥远省委批准，中共归绥市回民自治区委员会成立，马志新任书记。当时区委未设立组织机构，仅设组织、宣传、妇女干事，全区共有党员11名，设机关支部一个。回民自治区人民政府成立大会是在人民电影院召开，大会由马志新主持，绥远省和归绥市的党政军领导高克林、奎璧、吴立人、张燿清等亲临大会并讲话。

　　1952年7月，中共中央派出以萨空了为团长，彭泽民、朋斯克、阿艾沙为副团长的中央访问团到回民自治区访问，庆祝回民自治区人民政府成立，并赠送锦旗一面，上有中共中央主席毛泽东亲笔题词：“中华人民共和国各民族团结起来”。

　　1954年4月25日，归绥市改称呼和浩特市，回民自治区隶属呼和浩特市管辖。1956年，庆凯区撤销，所辖5个居民委员会划归回民自治区管辖，辖区范围扩大。

　　1956年11月26—29日，回民自治区第二届人民代表大会第一次会议在区人民政府礼堂召开。大会选举第二届回民区人民委员会组成人员，通过回民自治区变更为回民区的决议；决定从回民自治区第二届人民代表大会第一次会议通过决议之日起，撤销原呼和浩特市回民自治区建置，政府名称由呼和浩特市回民自治区人民委员会变更为呼和浩特市回民区人民委员会。