明応５年（１４９６年）に越後国高田（今の新潟県上越市）の蜂ヶ峯の麓に一宇が建立されました。

● 開山

曹洞宗開祖道元禅師から下って１１代にあたる勅特賜 宗猷大光禅師 曇英慧應大和尚（しゅうゆうたいこうぜんじ　どんえいえのう）が、本師である一州正伊大和尚（いっしゅうしょうい）を勧請し、開山されました。

● 開基

越後守護代であった長尾能景公(上杉謙信の祖父）が、その父である重景公の勲業を子孫万歳の福基に残そうとの御志願から建立されました。

● 寺号

長尾重景公の法名「林泉寺殿實渓正眞大居士」から、寺号を『林泉寺』と定められました。

● 山号

長尾景虎公（のちの上杉謙信公）が上杉氏を相続された時に、上杉家の氏神である奈良の春日明神を勧請し、山号を『春日山』としました。

２代景勝公の折に上杉氏は、会津を経て米沢移封（慶長６年）となりました。その後、元和３年（１６１７年）萬安大悦大和尚の時米沢の現在地に移りました。
舞鶴城（米沢城）の南現在の地域を選んで、高田林泉寺の古規にならって堂塔伽藍を建立されました。

現在の伽藍は、享保１７年９月（１７３２年）に火災に遇ったのちに建てられたものです。

寺中の春日大明神は、上杉鷹山公（治憲）が御節倹の折、立志の誓詞を捧げられた由緒深いものです。また、当時寄進された雨乞の大般若経等は現存しています。