从周代开始，就有道士在此居住修炼，如周代的尹喜，汉代的阴长生，唐代的吕洞宾，五代的陈抟等，唐代贞观年间，均州太守姚简在灵应峰修建了武当山上的第一座道观，名叫五龙祠，之后随着道教的兴盛，武当山的神仙宫殿日益增多，尤其是在明朝永乐年间。永乐皇帝为了夺取政权，声称真武大帝曾显圣帮助自己，并动用军夫30万在武当山建造了一个庞大的道教建筑群，基本上确立了武当山的建筑体系，朱棣还封武当山为“太岳太和山”，使其地位在五岳之上。经过嘉靖年间的再度扩建，武当山最终形成了八宫、二观、三十六庙堂、七十二岩庙、十二亭和三十九桥的庞大建筑院落。
今天，武当山上多处建筑已被列为全国重点文物保护单位，道教建筑群更足被联合国教科文组织列入了世界遗产名录，山上保存较好的道教官观有六宫(遇真宫、五龙宫、南岩宫、太和宫、玉虚宫、紫霄宫)、二观(元和观、复真观)、一殿(金殿)，其中建筑价值最高的是复真观、紫霄宫、南岩宫和金殿。