龙山的得名，有这么一段传说。
龙山原来叫小东山。相传，当年玉皇大帝派东海龙王三太子一一小黑龙掌管龙山下边的薛河，让他旱了行雨，涝了治水。哪知这小黑龙到了薛河之后，不为民造福，春天干旱不行滴雨，老百姓的庄稼都干旱而死。夏秋之季，这恶龙又兴风纵雨，薛河水涨，把眼看到手的粮食冲走。逢年过节，还要百姓用童男童女作为供品。弄得这一带的百姓日不聊生，纷纷外出逃难。
当地的土地爷和山神几次劝说，都让小黑龙打得鼻青脸肿，只好上天庭奏明玉帝。玉帝知道，龙颜大怒。就派天兵天将捉拿小黑龙。没想到小黑龙的武艺十分厉害，每次来捉拿他的天兵天将都被它打败。没办法，玉帝决定派小青龙领五千兵将，去捉拿小黑龙。临走交给小青龙两件宝物：一根银针和一条银索。
这天，小黑龙正在薛河龙宫里大摆酒宴，庆贺胜利，虾兵蟹将狂饮乱舞，好不热闹。忽然值日官来报：小青龙率五千天兵天将，领旨前来讨战。小黑龙一听，心中就有点惊慌，转念一想：小青龙与我是同胞兄弟，我先给它点软的，凭我三寸不烂之舌，定说他个神魂颠倒。他要是不买账，我这几年武艺也大有长进，料也不会有多大闪失。不多时，就听天空响了三声炸雷。接着天上乌云滚滚，风雨大作。小黑龙连忙带领虾兵蟹将升起云头迎战。只见小青龙率领天兵天将浩浩荡荡，甚是威风。小黑龙装模作样地说道：“原来是青龙大哥，多日不见，为弟十分想念。是什么风把你吹来了？快请到我宫里坐坐吧。”小青龙鼻孔“哼”了一声，说道：“不要装模作样了！你违背了玉帝的旨意，祸害黎民百姓，今天玉帝派我前来捉拿你这个孽障！”小黑龙皮笑肉不笑地说：“大哥休听他胡言乱语，我来到薛河之后，给这里的百姓做了不少好事。即使小弟有些小小不然的差错，你我是同胞兄弟，也得看在兄弟的情份上，让我三分。如果兄长真的不讲情面，哼！我小黑龙也不是好惹的！”小青龙一听，顿时火冒三丈，气得“哇呀”暴叫：“呸，你这恶龙，少给我来这一套，你死到临头，还不觉。我不与你费这口舌，今日不捉你回去，誓不罢休！”举起手中的方天化戟搂头就打。小黑龙也亮出雌雄宝剑相迎。
两条龙摇头摆尾，你来我往，上下翻腾，打在一处。这一场恶战可不得了，只打得风沙遮住了日月头，小东山上的大石头被刮得乱飞。天兵天将与虾兵蟹将也打在一块。这片的老百姓，家家屋门紧闭，不敢出门。就这么一直打了三天三夜。小黑龙的手下被打得七零八散，它自己也渐渐不敌小青龙。小青龙呢？却越战越勇。小黑龙一看不行，转身要逃走，小青龙早预备着了，趁它一转身，扬起方天化戟打了下去，就听小黑龙“吱吱”怪叫了几声，朝小东山顶上落了下去。小青龙也不怠慢，按落云头，骑在小黑龙身上，用玉帝赐的银针穿透了小黑龙的鼻子，用银索链子拴好，奏请玉帝发落。玉帝降旨：将小黑龙打入千山脚下的黑龙潭内受苦，由小青龙掌管薛河。
小青龙大义灭亲，为民除害，后来又为千山一带的人民造了不少福。当地人民为怀念它的功德，就把原来的小东山改叫青龙山。时间长了，人们把这座山简称龙山了