梁武帝很欣赏吕僧珍的才干。有一次，吕僧珍请求梁武帝让他回乡扫墓。梁武帝不但同意，而且任命他关南衰州.让他光耀一下门庭。
吕僧珍到任后，不徇私情，秉公办事。因公会客时，连他的兄弟也只能在外堂，不准进入客厅。一些近亲，以为有了吕僧珍这样的靠山，可以不再做买卖，到州里来见他，以谋取一官半职。吕僧珍耐心说服他们回去，继续做自己的小生意。
吕僧珍住宅的前面，有一所他属下的官舍，平时出入的人很多。有人建议他要那个属下到别处去办公，把官舍留下来住。吕僧珍严词拒绝、表示决不能把官舍作为私人的住宅。
吕僧珍这种廉洁奉公的高尚品德，受到了人们的称颂。有位名叫宋季雅的官员告老还乡到甫袁州后，特地把吕憎珍私宅邻家的一幢房屋买下来居住。一天，吕僧珍问他买这幢房子花了多少钱，宋季雅回答说：“共花了一千一百万。”
吕僧珍听了大吃一惊，反问道：“要一千一百万，怎么会这么贵？”宋季雅笑着回答说：“其中一百万是买房屋，一千万是买邻居。
吕僧珍听后想了一会儿才明白，跟着笑了起来。