至元三十一年（公元1293年），東平府在龍山設立龍山書院，位于山勢峻拔、風光如畫的龍山之陽。龍山風光秀麗，春秋佳日，登山南眺，清河似練，汶水如帶，汶城塔影，隱約可見，心曠神怡，流連忘返。
書院原為封建時代名儒學者召集青年講學的地方，以研究四書五經等儒家典籍為主，有時也兼論時政，對學術思想的發(fā)展有一定的影響。
歷史上的龍山書院頗負盛名，曾是山東三大書院之一，有許多著名學者在此主講，不少成名學者曾在此就讀，蜚譽各地。元代農學家王楨謝職旌德縣尹返回家鄉(xiāng)東平后，于元仁宗延年間，曾在龍山書院主講其農業(yè)科學名著《農書》。相傳，元代戲曲家、后人稱為“小漢卿”的東平人高文秀，青年時代亦曾在龍山書院讀書、習曲。明清兩代，書院亦人才輩出。明進士、官至兵部尚書，東平梯門人王憲及其子王汝孝都曾在龍山書院讀過書。王汝孝，嘉靖五年進士，官至禮部郎中改翰林修撰。他遵父囑，在龍山書院修碑撰文，感謝母校培育。碑文曰:“汶水泱泱，龍山蒼蒼，桃李天下，母校永光?！?。清道光年間二十九年時間里，東平就考中了王圣來等3名進士，李樹樸等12名舉人和31名貢生。
龍山書院的聲譽曾一度影響省外學者。據龍山大殿東深溝上的懸石刻文記載:解縉，江西省吉水縣人，明朝初期文學家，能過目不忘，開口成章，洪武年間中進士，官至內閣首輔，被罷官后，曾游學來過龍山書院，并在龍山的一塊懸石上讀過書。后人在那塊懸石上刻詩:學士被罷官，游學至龍山，鉆過藥王洞，住過太子殿，曾飲圣井水，懸石為書案，成祖永樂初，又任翰林院?！?。乾隆二十五年，東平知州普爾泰重修書院，并將書院移建于州城牌坊街路西馬公祠舊址。道光二十六年（1846年）又移建于書院街路北（原東平一中校址）。清代光緒三十年（1904年），廢科舉興學堂，將龍山書院改為東平第一高等小學堂。東平龍山書院歷經元、明、清三代，共計600多年，書院建筑已毀，僅存殘跡，但對東平文化教育的發(fā)展產生了重大影響。
