济南名士辈出，历朝历代来千佛山留下足迹的历史名人很多，有龙山文化时代的大舜、春秋时期的鲁班、周代黔娄子、唐代秦琼，宋代曾巩，还有北齐魏收、元代张养浩、于钦，明朝边贡、翁方纲，清朝乾隆皇帝、丁宝桢、王士祯、刘鹗（《老残游记》）、阮元、桂馥，近代有老舍、赵朴初、舒同、董必武、郭沫若、季羡林、徐北文等，他们先后在济南游历或生活，留下了大量吟咏千佛山的诗词文赋，为千佛山增添了无限的文韵墨香。
今天，我们先从古代帝王与千佛山说起。据《史记》载，千佛山，古称历山。相传，上古时期虞舜帝曾耕田于历山下，故又称舜山、舜耕山，由此便可以推断，历史上第一位涉足千佛山的皇帝，无疑就是舜帝。
舜祠大殿彩绘壁画——《舜耕历山》
舜，目重瞳子，所以人们叫他重华，史称虞舜。其人德高望重，才华超群，众人推举为尧帝佐理国家大事，后来他继承帝位治理天下，使国家繁荣昌盛，国泰民安。
关于舜耕历山，最早见于《史记·五帝本纪》：“舜耕历山，历山之人皆让畔；渔雷泽，雷泽之人皆让居；陶河滨，河滨器皆不苦窳。一年所居成聚，二年成邑，三年成都。”舜耕历山，留下了很多美丽的传说故事。
舜是我国古代的一位明君，他在位三十九年，治理国家有方，深得百姓爱戴。但他的身世非常坎坷，幼年时曾受到不少磨难。舜的父亲是个瞎子，名叫瞽叟，善琴瑟。母亲名叫孟赢，与瞽叟结婚后生下二子，长子早亡，次子为舜。父母二人视舜为掌上明珠。舜也享受过一段幸福的生活。可是天有不测风云，不久，母亲孟赢因病辞世，后来父亲又给舜续娶了一位母亲。继母起初对舜还算可以，后来生了一男一女，便开始对舜疏远，感情渐渐恶化，总感到舜在身边非常碍眼，所以非打即骂，最后把他赶出家门。
舜祠大殿彩绘壁画——《舜承尧日》
这时的舜已经逐渐长大，跟着本村的私塾先生学到了不少知识和做人的道理，尤其知道该怎样孝顺父母。为了不让父母生气，只好离家出走。他背上行李，依在大门外的树上，哭泣了好长一段时间，恋恋不舍地向北方走去。越过一方方荷塘，一片片绿浪，一条条小溪，不觉来到历山山顶，放眼一看，山和平地相连，荒田甚多。当地人居住的很是简陋，皆为洞穴，显示出东夷人当时的原始状态。
虞舜在各处转了一转，寻到了一个山峪，树木茂密，小溪潺潺，景色甚佳，便随山就势，建造草堂，围起栅栏。农家小院很快建起，与当地穴居相比，显得异常文明。
舜祠大殿彩绘壁画——《柴祭岱宗》
一天清晨，虞舜刚走到荒坡，正在用䦆刨地，只听一声长啸，山谷回响。虞舜回头一看，是一只大象走来，虞舜并不畏惧。那象朝虞舜点点头，摇摇尾、表示亲近。虞舜摸摸象的身体，象晃晃膀子，亲热了一阵子后，那象便用长鼻，卷起石头，向山坡远处抛去，之后又用长鼻拔荆棵、丛木之类，清除干净，再用巨齿耕地，一垅垅，一片片，不多时便开垦了好多亩平整松软的土地。以后，大象便与虞舜相依为命。
一天，大象驮着种子、农具，虞舜跟在后面，向田间走去。走到田间，虞舜刚把盛种的布袋打开，准备撒种，就听一声鸟鸣，回荡于山谷。虞舜放眼一看，竟是一只巨大的凤凰从天际飞来，落在虞舜的身前，扑扇着翅膀，表示亲近，虞舜又抚摸着它的身体表示欢迎。然后凤凰衔起布袋，飞向天空，均匀地把种子撒在翻好的田中。撒完后将布袋放下，朝着原来的方向飞去。虞舜朝着飞去的凤凰挥手致谢，大象也朝着飞去的凤凰点头。
收割的季节到了，大象用长鼻拔庄稼。天空中飞来的凤凰，也帮助虞舜收割，用嘴拔起衔着放在一块。然后，虞舜将庄稼捆好放在象背上，驮到了场院里。
舜祠大殿彩绘壁画——《禹践舜祚》
一座粮仓矗立在场院内。虞舜准备到草堂内去取食物以慰劳象、凤凰。谁知大象、凤凰不见了。舜便到处寻找，却无影踪，于是急得流泪，随大声疾呼：“大象、凤凰，你在哪里？”山起回音，震撼山冈。找也找不到，呼又呼不出，便挥泪痛哭。正在此时，忽有老者在山谷出现，隐士风度，向虞舜走来劝道：“先生，不要悲伤了，我看那凤凰、大象，是为了给你解决困难来的，既然你的庄稼都收割完了，所以他们自然就走了。”
虞舜点头称是，便停止了哭泣，向着大象、凤凰走去的方向，拜了三拜，然后自语道：“谢谢你们，我永远忘不了你们的恩德。”
这便是舜耕历山时“象耕鸟耘”的故事，现在千佛山舜祠内的壁画上有所记述。另外还有“渔雷泽”、“陶河滨”、“帝舜南巡”、“逝葬苍梧”等，在此不一一赘述。改建前的舜祠，亦称重华宫。北魏地理学家郦道元在《水经注》中记载说：“城南对山，山上有舜祠……《书》，舜耕历山也云在此。”《书》指的是《尚书》，为现存最早的关于上古时代典章文献的汇编，其中保存了商朝及西周初期的一些重要史料。据此推断，这祠堂在商朝时代就出现了。