相传在数百年以前，有一条来自江南某地的商船运送一批货物到北方去。船行途中，突然遇到了大风浪，狂风卷着巨浪，向商船打来。因为风浪来得太突然，船员们根本找不到可以躲避风浪的港口，只能听天由命。
狂风刮了好几天仍不见停息，商船像一片被风吹落的树叶一样，孤零零地在大海上漂浮着。渐渐地，船上的淡水用光了，食物也吃没了，人们饿得奄奄一息。
船长看到这一切，心急如焚，却也想不出什么好的办法来。
一天夜里，船长辗转反侧，怎么也睡不着觉，于是他穿上衣服，来到船舱外。此时海天之间一片漆黑，寒冷的海风从脸上刮过，像刀割一样。
突然，船长隐约看到远处有火光。他立刻大声地喊道：“大家快看啊!前面有火光!我们有救了!”
这一线的生机立刻激起了人们强大的求生欲望。大家顿时精神抖擞，用一些简单的工具当船桨，齐心协力朝着那有火光的地方划去。渐渐地，那火光越来越近，一座岛屿显现在人们眼前。
船终于靠岸了，大家用尽最后一点儿力气跳出了船，看见海岸边上站着一位老人，这老人满头白发，面色红润，手中高举着一个火把。
人们一见，立刻拜谢说：“老人家，多亏了你为我们引航，我们才能划到这来，是您救了我们，谢谢您啊!”
老人微笑着说：“不用客气，能救你们我也很高兴!你们一定是又饿又累了吧?如果不嫌弃，就到我家歇息吧!”大家连忙再次道谢。
老人带着船上的人，走了不多远，就来到了一所房子前。屋子虽然不是很宽敞，却十分古朴亲切，一位热情的老妇人招待大家落坐后就急忙去做饭了。
老人向大家介绍说：“这是我的老伴，我们两个人在这座孤岛上生活很长时间了。”
老妇人从屋里抓了一把米，淘洗好后，就放到了锅里。大家见了，都很纳闷，心想：一船的人，这一把米怎么能够吃呢?
不一会儿，饭好了，老妇人一掀锅盖，锅里竟然是满满的一锅白米饭。十几个人狼吞虎咽地吃了起来，大家一碗接一碗地吃，可是锅里的米饭却始终不见少。大家不禁暗自称奇。
吃完饭后，大家向老人道谢，说：“你们二位老人的救命之恩，我们永远都不会忘记。请问老丈您贵姓，这又是什么地方?日后我们也好回来报答。”
夕阳下的刘公岛老人捋着胡须，笑着说：“报答就不必了，我们夫妻俩一生喜欢帮助别人，并不图什么回报。这个地方叫刘家岛，我姓刘，叫我刘公就行。”说完，老人又取了一袋食物送给了船上的人，并送他们回船上休息。
第二天一早，船上的人到岛上去取水，可是寻遍了全岛，却没有找到昨晚的那所房子和救他们的两位老人。岛上青山耸立，树木葱翠，一片鸟语花香，根本不像有人居住过的样子。
大家又回想起昨晚那奇怪的米饭，突然醒悟，原来救他们的是两位神仙啊!
后来，这些人开船又经过这个岛屿，为了纪念两位老人的救命之恩，大家集资在这座小岛上修了一座庙，庙里供奉着刘公、刘母的泥塑像，人们把它叫做刘公庙。
每有船只经过这个岛屿，船上的人们都会下船来，到刘公庙进行祭拜，以祈祷他们在海上平平安安。后来，刘公庙的名气越来越大，人们就把这个岛叫做刘公岛了。