南部低山区和山前冲积平原是历代乌孙、匈奴、突厥、蒙古等游牧民族活动的区域，至今留有400余座墓冢可辨。据自治区文物考古所考证为汉、唐时期乌孙、突厥等游牧民族的头人、坟墓。据县志办1988年8月走访当地少数民族群众，传言南部低山区的石堆墓为准噶尔人墓。因此，古墓形成的时期、墓主的族别、身份有待以后挖掘考证。境内古墓主要分布在以下几个区域： （一）国道312线两侧墓葬群：四棵树镇土墩墓、古尔图东区土墩墓、古尔图西区墓群分布点。 （二）南部低山区墓葬群：红山煤矿土墩墓、小安集海土墩墓、乌拉斯台土墩墓、奥瓦特石堆墓、赛里克提土墩墓、巴克土墩墓、塔布勒合特河山口石堆墓、小乌拉斯台石堆墓。