當地材料，根據當地情況采取措施，是當地住宅建設的一般規律。由于自然地理條件的巨大差異，山西的傳統住宅形式和風格各不相同。山西位于內陸，交通不便，物資轉運困難。根據《晉政編輯》，查晉省位于萬山，道路狹窄，磚、瓦、木、石材材料昂貴，運輸困難。梁、柱、巨木尤其缺乏，往往數百英里外進入山區采伐，節省運輸，費用特別高。
在此基礎上，村民只能根據當地的實際情況，根據情況建造自己的家園。如在晉東及晉東南的太行山區，基巖裸露，植被較好，所以利用石材、木材建造房屋，較為普遍；而在晉西、晉北等丘陵地帶，黃土廣布，適于“穿土為窯”，居民多依山靠崖挖掘窯洞，形成“家三家兩自成村，小住洪崖辟洞門。漫道穴居同上古，這里有一個獨特的干坤村景觀。在汾河流域的晉中晉南地區，交通條件比其他地方更方便，歷史上也更豐富。民居一般采用窯房合建或磚木結構，建筑質量較高。
山西民居在不同的時代和地區呈現出不同的特點。從建筑方法的角度來看，主要分為洞穴類型和磚木結構類型。洞穴住宅可分為黃土洞穴和磚石洞穴。黃土洞穴主要分布在山區，經濟適用，施工方便，是山西住宅的重要形式。
用磚石砌筑拱券窯洞，大致成熟于元末明初，平面以一字形、三合院、四合院為主。磚木結構住宅分布在河谷平原地區，黃土豐富，煤炭資源充足，可用于燒磚，為磚木結構住宅的建設提供建筑材料。山西現存最早的磚木結構民居是高平市中莊村元代姬氏民居，也是中國現存最早的民居建筑實例。現在只有三間主房，磚木結構，朝南，明間有板門，單檐懸山頂，檐柱有生起和側腳，舉折平緩，造型簡單。
明清時期，山西商業和金融業蓬勃發展，晉中、晉南、晉東南地區出現了大量的豪華庭院。其中，以太谷、祁縣、平遙等地的庭院保存最為完整。這些庭院的共同特點是規模大、規劃嚴謹、空間內向、裝飾豪華、障礙嚴格、內涵深刻。
山西傳統聚落中的民居主要采用以下形式：
1、窯洞
在山西，無論是山區還是平原地區；無論是城市還是農村，洞穴分布非常廣泛，最常見，這是山西民居的共同點。
(1)晉西窯洞
晉西窯洞分布在廣闊的呂梁山區，黃土廣泛，居民普遍貧困。以土窯為生活形式是最經濟、最適用的選擇。這里的窯洞主要是直接開挖黃土的水平洞穴。《興縣志》所描述的城無萬金之家，鄉無百家之村，營洞陶穴是最生動的寫照。
(2)晉北窯洞
晉北地苦寒，宿舍必有火炕，高三尺左右。這里的洞穴建設歷史悠久。例如，宋代洪浩出使金國。當他經過云中地區時，他看到了數百個洞穴。該地區的窯洞仍以土窯為主。由于地處高寒地區，窯內有許多土炕，以保持恒溫恒濕。
(3)晉東及晉東南窯洞
歷史上，明清時期的澤州府、鹿安府、遼州、平定州等地都有洞穴分布。晉東和晉東南部位于太行山區。一般來說，在地形起伏的地方，居民會挖掘土壤和挖掘窯洞，并保存大量的黃土洞穴。例如，在遼州，有平沃，商人不通，人多穴居的記載。除了土窯，村民們還用石頭建造拱形洞穴。
(4)晉中窯洞
晉中盆地地形平坦，汾河穿越邊境。由于洞穴冬暖夏涼，居住方便，這里的村民也更喜歡洞穴。如果位于盆地邊緣，以土窯為主要生活形式；如果位于汾河谷，則用磚石建造洞穴。例如，汾州府孝義縣有西鄉半洞土，其他地方或磚如窯的記載。
(5)晉南窯洞
河東地區歷史上主要包括平陽府和蒲州府，地勢平坦，物產豐富。雖然當地的民居主要是磚木建筑，但也有許多窯居分布在其中。比如芮城、平陸地坑窯就是最典型的代表。坑院又稱地檢院，其形狀和施工方法既古老又獨特。一個地檢院，長度、寬度各三四十米不等，深度約十米。在基坑四壁，水平開挖土窯，合理安排人員、儲存、交通和儲存空間。在院子里，挖旱井不僅可以用來排雨，還可以積水作為生活用水。人們不容易在遠處找到由地下檢查院組成的村莊。只有走近，才能看到它的全貌。因此，有一種人間奇觀，車從屋頂經過，聲音從地下來。
2、石頭房
晉東和晉東南的太行山有很多石頭。五里柏井驛，實鎮，地磚多，石屋多。用石頭砌院墻和屋墻，用石頭代替瓦片和魚鱗鋪屋頂，也是當地居民用當地材料建造的一種方式。這種房子雖然簡單，但簡單耐用。雨后，屋頂上的石板被清理得五顏六色，充滿野趣。
3、磚瓦房
所謂磚瓦房，是指所有墻壁都是磚石，上覆是磚，梁柱窗棧外沒有竹木。土石價格省于木材，因此作室木工少，土石工多。這類房屋多為硬山式屋頂，前后磚砌，留出窗格門洞。還有一些地方是防雨的，采用懸山式屋頂，屋脊是皮條脊形式，干扣一層磚，交錯扣瓦。山西的磚房集中在兩個地區，一個是價格低廉的地方，如晉北的保德州、寧武府等地區。經過歷代的開墾，森林資料短缺，很難找到，但磚石價格低廉。村民們用當地的材料和磚建造房屋。
另一類集中在經濟發達的晉中、晉南、晉東南地區。這里的村民甚至用磚建造建筑。例如，祁縣的民居大多以磚為建筑，晉南和晉東南的皇家建筑甚至高達五層。忻州等地的磚房是高脊一出水房，坡度大，造型優美。山西尤其是代縣和繁華的磚房最為精致。
4、磚木房
山西磚木結構的民居主要集中在森林資源豐富、木材豐富的晉中、晉南、晉東南等地區。民國《沁源縣志》載：本縣木材不缺，所住房率多為構木。這些地區的民居多為雙出水硬山式二層建筑，樓上較低，僅用于儲存物品和糧食，不設置專用樓梯，只有上下移動木梯。一些富裕家庭的磚木結構建筑一樣，二樓也可以住，樓前出樓立柱，樓梯，勾欄一應俱全。
5、平頂房
平頂房前低后高，老百姓稱之為“一出水”。前面采用木柱式，滿面開窗，采光較好；屋頂用堿地淤土與麥秸和泥抹成，利用泥的下滲特點將干裂的縫子自然淤合，逢雨不漏。隔二、三年再抹一次。這種結構的房屋，主要集中在太原附近，每當五谷豐登，屋頂便成了曬場，五谷雜糧將屋頂裝飾的色彩斑斕，秋韻盎然。
6、土木房
土建房屋是指承重結構由梁、柱、板組成的木結構體系。圍護結構采用土坯或夯土墻等生土材料。這種形式的房屋廣泛分布在山西，留在晉北、晉南、晉東南等地區。這種房子成本低，利用生土熱慣性好的特點，冬暖夏涼，也受到當地村民的喜愛。
7、茅草房
茅草房多代表普通貧民階層，在古代較為普遍。山西茅草房以山區為主，集中在晉東、晉東南的太行山區。雨水較多，適合茅草生長，取材方便。山區生活艱苦，生活條件惡劣，居民用當地材料建造茅草房也是生活所迫。俗話說地毛民力本，茅檐歷見。太行山土地資源有限，茅草房民居多出現在三家村式散居聚落中。
