偃師舜帝廟建在偃師首陽山山頂。據(jù)傳，后人為紀(jì)念舜，曾在首陽山南山下蓋起一座舜帝廟。前有山門，后有大殿，香火很盛。忽一日晨，山下各家的耕牛都通身大汗淋漓，猶如剛剛卸犁，牛犄角上且掛有銅錢。眾人正不解時，有人猛然發(fā)現(xiàn)首陽山巔，一夜之間竟突起一座廟宇，回望山下的舜帝廟、殿房都不翼而飛，僅余前邊山門孤單地立著。大家恍然明白，昨晚是神仙借各家的耕牛去拉廟高遷了。直到雞報曉時，還沒拉完，就把這山門遺在了原地。現(xiàn)在偃師城關(guān)鎮(zhèn)的山門村，就是因在山門處而得名。
現(xiàn)今的建筑是近年重建，紅磚青瓦，大小不同的三間房共有六七座，供有舜帝。