繼彭祖之后，武夷山逐漸成為方士羽客理想的棲居之所，他們先后在山中建起了道院和庵堂。到宋代，許多著名的理學(xué)家卜居山中，聚徒講學(xué)，倡道于東南，武夷山成為東南文化名山，被稱為“三朝理學(xué)駐足之藪”。歷代在山中修建的寺、廟、祠、宮、院、莊、室達一百八十七所，亭、臺、樓、閣有一百一十七處。這些建筑有的已僅存舊址。其中最著者有沖佑觀、止止庵等。
沖佑觀
沖佑觀今名武夷宮，位于大王峰南麓，是武夷山最古老的一座宮觀，自創(chuàng)建迄今已一千多年。沖佑觀的興建緣自武夷君的出現(xiàn)，觀內(nèi)供奉武夷君。相傳在秦始皇二年，有仙駕紫云、跨白馬降臨武夷山中，自號武夷君，奉上帝之命駐節(jié)此山，統(tǒng)錄地仙。故有人認(rèn)為武夷山名即由此而來(見清陸鴻漸《武夷山記》)。武夷君成為武夷山神，歷代都受到供奉，最早可追溯到西漢初《史記·封禪書》的記載：“古者祀武夷宮用乾魚”。但直至漢武帝時，才在山中設(shè)壇祭祀，祀品仍為乾魚。到唐天寶年間，始創(chuàng)屋于洲渚，稱“天寶殿”。南唐保大二年(994),于今址修建“會仙觀”。宋祥符二年(1009),再度擴建為一組富麗堂皇的宮觀建筑群，屋宇達三百多間，成為當(dāng)時全國的六大名觀之一，有“名山巨構(gòu)”之稱。到紹圣二年(1095),因進一步擴建，改名沖佑觀。元代稱為萬年宮，明代稱沖元觀。在明后期，宮觀曾兩度毀于兵燹，清末才募款重建，稱萬年宮。今宮內(nèi)僅存道院一座，龍井兩口。
宋代是沖佑觀的鼎盛時期，武夷君受到封建皇帝的特別尊重。據(jù)山志記載，從宋乾興至熙寧末年(1022—1077),皇帝先后派使節(jié)來武夷山投送“金龍玉簡”達二十二次，今大王峰頂仍有“投龍洞”。武夷君也屢受敕封，到嘉熙二年(1238),已有了“顯道普利沖元真君”的封號。到了明代，每年中秋，歷任崇安縣官都要到山中“齋宿致祭”。歷代封建統(tǒng)治者都賜田賜錢修葺這座宮觀。宋元符元年(1098),京師大旱，因“祈雨有應(yīng)”,一次就賜錢80萬，建田10頃。武夷君備受尊崇，沖佑觀亦日益興盛。現(xiàn)存的《沖佑觀圖》標(biāo)明了當(dāng)時的建筑布局：中為三清殿，前有漢祀亭、拜章臺，后有賓云亭、玉皇閣和法堂，兩側(cè)有東西二廊，廊外有道院、祠堂和倉庫，建筑群洋洋大觀，真乃名山巨構(gòu)。朝廷在觀中設(shè)有提舉一職，以安置閑官冗員，陸游、朱熹、辛棄疾、彭龜年、張栻、葉適、呂祖謙、魏了翁和黃干等人都曾做過沖佑觀提舉。
南宋詞人辛棄疾因堅持抗金，不為長期把持朝政、主張對金妥協(xié)的投降派官僚所容，曾三次罷職家居，奉祠主管武夷山?jīng)_佑觀。
淳熙八年(1181),辛棄疾在江西安撫使任上，時值江右大饑，他奉詔舉辦荒政，抑制貪吏，賑濟災(zāi)民，被監(jiān)察御史王藺彈劾落職，退居倍州(今江西上饒)。淳熙十四年，始奉祠主管沖佑觀。到紹熙三年(1192),才被復(fù)用，出任福建提點刑獄，次年調(diào)任福州知州兼福建安撫使。他著手整頓吏治，理財備戰(zhàn)，設(shè)“備安庫”,積錢達50萬貫。不到一年，又遭到朝中諫官費艾等人的攻擊，被誣以“殘酷貪饕”的罪名罷官，再次提舉沖佑觀。慶元四年(1198),復(fù)任集英殿修撰，仍主管沖佑觀。
武夷君有無其人？朱熹在觀察了架壑船的遺物后推斷：武夷君可能是太古時代聚居武夷山中的“夷落”君長。近年來，我國一些考古工作者對架壑船作了初步研究后，也有人贊同朱熹的觀點，并認(rèn)為“武夷君”這一稱謂符合當(dāng)時的歷史情況?！妒酚洝|越列傳》記載：閩越王無諸及越東海王搖等，都是越王勾踐的后裔，秦統(tǒng)一天下后，削去王的封號，廢為君長，并在他們的統(tǒng)治地區(qū)設(shè)置閩中郡。諸侯叛秦時，無諸和搖都?xì)w鄱陽令吳芮，“所謂鄱君者也”。武夷君的稱號可能是當(dāng)時歷史背景下所產(chǎn)生的。又據(jù)晉張華《博物志》云：“東南之人食水產(chǎn)，西北之人食陸畜。龜、蛤、螺、蚌，以為珍品”,漢代用乾魚祀武夷君，也正好反映了古越人的生活習(xí)俗。如此看來，武夷君可能真有其人，他就是武夷山中古越人某支系的首領(lǐng)，武夷山也因作為古越人的棲息地而得名。
止止庵
止止庵遺址位于大王峰右麓的小谷地，背倚幔亭，面向虎嘯，前臨九曲溪，后有鐵板嶂，谷地不深而幽，不高而敞，風(fēng)景極佳，人稱“洞天奇絕處”,歷來是羽流的棲息地。相傳最早有先秦的皇太姥母子二人在此結(jié)廬，隨后羽人張湛和魚道超、魚道遠(yuǎn)二女也接踵而至。到宋代，東京李陶真、洛陽李鐵笛和燕山李磨鏡也來此隱居，并草創(chuàng)了一庵，取名“止止”。宣和元年(1119),李綱游武夷時，曾往訪三李，擬在此間修建“史隱亭”。不久草庵傾圯。嘉定年間，山南詹琰夫延請羽士白玉蟾主持重建止止庵，并寫了《止止庵記》,盛贊其“亦可棋，亦可琴；有酒可對景，無詩自詠心”,并說“蓋武夷千崖萬壑之奇，莫止止庵若也”。止止庵的確風(fēng)景幽奇，但此說亦未免有些夸張過分。元、明、清三代，都曾對止止庵加以葺治，惜今庵已廢，僅存其名。