慈雲寺的創建緣起是於大正八年（1919），阿里山開發之初，日人當時感覺阿里山有如印度的靈鷲山聖地，因而建造阿里山寺，並由當時曹洞宗管長日置默仙送來邏羅國王親贈的釋迦牟尼佛奉祀，佛像外以銅鑄內裝金沙，已有千年之久。民國三十四年（1945）光復後，日僧回國，宏道法師應邀前往住持，將阿里山寺改稱慈雲寺。 民國四十一年（1952）宏道法師回碧雲寺，由宏淨法師接任。原本管理權是屬於阿里山林場，現已改由慈雲寺自己管理。