據傳是經周王廟神明指示該地區不平靜，故建將軍廟以加強防衛力量。創建年代不詳，因為地處東衛國小北邊、與「山尾」毗鄰，而逐漸成為山尾地區居民的信仰中心。相傳在清康熙年間時只是一座硓𥑮石造的小廟，高約1公尺，後來曾改為木造， 民國36年（1947）重建、民國60年（1971）曾整建過，至民國88年（1999）重建為現貌。