建立沿革:
清順治18年（1661）「二娘娘」的神像，隨鄭成功之水師為航海守護神，渡海來台，鄭成功平台後，「二娘娘」隨鄭成功之駐軍進入大內鄉「北尾仔」（後改稱國聖湖），並將二娘娘覓地安座。是時二娘娘展望南方高山三座，巍然鼎立，山明水秀，為安居吉祥之地，於是指示駐軍遷居山仔頂，再由信士林電，奉迎二娘娘至現廟址之左前方，搭建草舍為供奉，為天后宮之開基。咸豐元年（1851），由於信徒日增，廟寺簡陋，遂興建土角廟宇，光緒5年（1879）發生地震，廟宇傾毀，翌年遷於今址，由善化茄菝天后宮奉請「大媽」，再由善化慶安宮奉請「三媽」，各雕神像合祀，而二娘娘則改稱「二媽」，為之「天后宮」。民國元年增建兩廂室，並加修廟身，民國51年始由時值管理人田章及村長林朝輝等人向信徒募捐，動土興工，至民國52年農曆11月11日竣工入廟，並於民國53年11月舉行清醮祭典。「二媽」代天行道，救世濟民遐邇聞名，嗣上蒼為褒獎其功績，於民國53年奉天詔，日加冠賜封為民「玉二聖母」。今廟為民國67年斥資重建。
山上天后宮為山上區寺廟中分宮最多的廟宇，其主神玉二聖母，因神威顯赫，故在三峽、嘉義、麻豆、虎尾、高雄等地區皆有分靈廟宇；亦有玉二聖母十二宮聯誼會。
傳說
相傳明鄭時鄭成功軍隊來台，隨船守護的媽祖共有三尊，一登陸攻下赤崁樓，留守的水師恭請一尊聖母駐地鎮守，為今台南鹿耳門天后宮的「開基聖母」，即是「大媽」。而水師尊稱「二媽」、「二娘娘」的「玉二聖母」隨軍隊開墾，建廟於台南縣山上鄉，即今日之山上天后宮。（據傳玉二聖母乃是上界理天的女聖者，身負特殊任務奉旨降世，並非天上聖母的系統，因而聖誕也不同，玉二聖母的聖誕千秋之期為農曆8月15日。），而三媽在今嘉義天后宮，信徒尊稱「玉三聖母」，乃由山上天后宮所分靈建廟的。
參考資料
山上天后宮全球資訊網 http://www.tan-ho.org.tw/