修水素有文章奥府之誉，自古及今，尤重教育，历朝历代名人辈出，学风浓厚遍及城乡。自宋代起，书院林立，据不完全统计，修水有史记载的书院便有25所之多，而最具名气的就有五所，濂山书院、凤献书院、梯云书院、高峰书院和鳌峰书院等，尤以濂山书院为最。 
　　濂山书院始建于宋代庆历初年，由时任分宁主簿、宋代著名的理学家周敦颐所创。其院址在修江之滨的旌阳山下(即现在的安坪港渡口上)，依山傍水，明媚秀丽，元代时毁于兵燹，修整后更名为景濂书院，有景仰濂溪先生之意。 
　　由于战乱，元末明初时又屡遭焚毁，至明代天顺三年(即公元1459年)重建于南崖的濂溪西岸(即现在的宁州供销社所在地)，且仍用濂山书院旧名。 
　　嘉庆时，有士人在书院北侧新建一座山谷祠与濂山相伴，万历年间，书院修缮时将濂溪、山谷二公像塑于书院内，复更名为濂山书院。 
　　明末清初期间，书院再次被毁，康熙七年(公元1663年)在知州徐永龄先生倡导和主持下再次重建，时隔不久又遭兵燹之祸，直到康熙十七年(公元1673年)，在知州班衣锦先生主持下才得以恢复，并且还扩大了书院，整个书院占地数亩，分为上中下三重，下重为讲经堂，中重为尊经阁，上重为文昌阁，照壁为魁星踢斗画像，两旁为生员住房，共有20余间住所。 
　　知州班衣锦尤重教育，在任期间为教育事业呕心沥血，在他的帮助和支持下书院学子遍及宁州八乡，书院也成为了名噪一时的全州最高学府，至清乾隆八年，书院仍复其濂山书院本名，且一直沿用至今。 
　　濂山书院是全县众多书院中历史最长、学子最广、名气最大、仕弟最多、兴废次数最多的一所书院。到民国末期，由于战火不断，最终无法逃脱厄运，遭全面拆毁。解放后，各地新兴国立公学，自此，濂山书院也就结束了使命，但在史书上留下了光辉的一页。