南岳大庙分为九进四重院落，包括正殿、寝宫、御书楼、盘龙亭等建筑。四周围以红墙，角楼高耸，寿涧山泉，绕墙流注，颇似北京故宫风貌。南岳大庙佛道共存，东侧为八个道观，西侧为八个佛寺，堪称我国寺庙一绝。南岳大庙四群院落和九个建筑体组成，保持了唐宋以来的艺术精华。
第一进是正门，也叫棂星门，由花岗石砌成，门前有一对石狮子，姿态雄伟，门内翠柏挺立，绿草如茵；
第二进为盘龙亭，又称奎星阁，旧时于此演戏。阁方形，台基高约2米，花岗岩砌成，中有十字通道。阁楼木石结构，重檐歇山顶，覆黄琉璃，檐下饰斗拱、彩绘雕镂。覆斗形藻井中雕有一条巨大的镏金盘龙，故又名盘龙亭。北面悬横额：“古往今来。”柱联为：“登峰巅俯视洞庭，高唱江从东去；问天下谁称福地，长歌风从南来。”南檐下有“奎星阁”竖额，柱联为：“亭有盘龙，何不在天飞霹电；岳常集凤，都来此地听箫韶。”阁的左边有钟亭，原有一口元泰定元年（公元1324年）铸造的重九千斤的大铁钟，右边有鼓亭，过去置有一面直径达2米的大鼓。二亭都为重檐歇山式建筑，现修缮一新，新置了钟、鼓。在二亭纵线的南面，还有二座六角攒尖亭。东亭置明成化年间（公元1460—1487年）尚书商辂撰的《重修南岳庙记）碑，西亭置宋代范纯仁撰的《祭衡岳文》碑，东亭1944年被日机炸毁，现已恢复，亭内二碑均系八一十年代的复制品。
第三进为城门式的三大洞门，正中叫正川门，门内有玲珑别致的御碑亭，亭内有清圣祖康熙四十七年（1708）为重修南岳庙而立的一个巨大的龟驮石碑，碑文系康熙亲笔；
第四进为御碑亭。八角重檐攒尖顶，红柱碧瓦，飞檐翘角。檐下斗拱，玲珑剔透。亭周四面为红墙，每方开一拱门，亭内置一巨大驮碑。状似乌龟，古传为负重之兽。碑高3.2米，宽2米，系整块青石镂成，上刻清康熙帝玄烨亲撰的《重修南岳庙记》，全文297字，楷体，此碑为1985年重置。亭上有“御碑亭”竖额，额枋上书不同形体的古篆“寿”字二百个，寓意南岳为“寿岳”。
第五进为嘉应门，现加以改建，内设南岳文物保管所，南岳书画院，大庙招待所等；
第六进为御书楼。砖木结构，重檐歇山顶，四周绕回廊，前有丹墀，中嵌蟠龙。楼上四周装镂空窗格，其斗拱形制奇特，七踩三翘，为古代所罕见。南檐下有“御书楼”横额。楼下原有御碑五块，现已不存。
第七进为正殿，殿前是一块大坪，正殿耸立在17级的石阶上，正中的石阶嵌有汉白玉游龙浮雕，正殿高7.2丈，为重檐歇山顶建筑，内外共有72根大石柱，象征南岳72峰。殿顶覆盖着橙黄色的琉璃瓦。并饰有宝剑、大小蟠龙和八仙中的人物，飞檐四角，垂有铜铃，檐下窗棂、壁板，都雕刻着各种人物故事或花木鸟兽，后墙上绘有大幅云龙、丹凤。大殿台阶四周，有麻石栏杆围绕，柱头上雕刻有狮子、麒麟、大象和骏马，栏杆中嵌有汉白玉双面浮雕144块。殿中原来设有岳神座位，历代统治者对岳神都加赐封号。如唐初封为“司天霍王”，开元间又封为“南岳真君”，宋代加封为“司天昭圣帝”等等。如今的“南岳圣帝”是1983年复制的；
第八进为寝官。亦称谨身殿，后殿。砖木结构，重檐歇山顶。和正殿丹墀相连。殿中设圣帝和夫人景明后、圣帝父母亲坐像，故亦称圣公圣母殿。檐下装有粗犷的斗拱，天花绘制精美。
第九进为后山门。亦称北后门，是岳庙中轴线的终点。砖木结构，单檐硬山顶，红墙黄瓦，屋脊上饰有宝顶和走兽。门东为注生殿，祀注生真君，民间亦称注生娘娘。门柱联为：“注性优劣惟善人知止善地；生命寿夭皆由自造不由天。”西为辖神殿。一门两殿相连，一字排开，装饰古雅大方。出后门，即可登山。它是一组集民间祠庙、佛教寺院、道教宫观及皇宫建筑于一体的建筑群。