传说，羊肉泡馍是从古代的“牛羊羹”演化而来的，距今已有2000多年的历史了。但最为人津津乐道的，是羊肉泡馍与宋朝的开国皇帝赵匡胤之间的故事。
据说，五代末年，赵匡胤还未得志时，身无分文，穷困潦倒。一日，在长安(古时西安)街头流浪的他，因饥饿难耐，不得已低下男儿头向一家烧饼铺讨吃。店主看他可怜，就把几天前剩下的两个烧饼给了他。可放了几天的烧饼又干又硬，根本咬不动。这时，他闻到了一股肉香，原来不远处正有一家肉铺在煮羊肉。赵匡胤便向店家讨了一碗羊肉汤，把干硬的烧饼掰成小块泡进汤里。没想到，这碗烧饼吸入了肉汤的香气，肉汤泡软了烧饼，一碗“汤泡馍”吃得赵匡胤浑身发热，饥寒全无，精神大振。
几年后，赵匡胤得了势，掌握了兵权，“黄袍加身”做了宋朝的开国皇帝。当了皇帝的赵匡胤，每日山珍海味，日久天长，嘴里没了味道。一天，他突然想起了那碗香到心里暖透全身的“汤泡馍”，立即传旨御厨速速做来。但御厨做了几次，赵匡胤都觉得不是当年的那个味儿。
一次，赵匡胤外出巡察，行至长安，不知不觉又来到当年流浪的那条街，又闻到了那久违的肉香。这一下，赵匡胤食欲顿起，下了御辇直奔肉铺，让店主马上做一碗“羊肉泡馍”。店家见皇上驾到，又是惊喜，又是惶恐。街上的烧饼铺已关了门，店家只得让妻子烙了几个饼，怕皇帝嫌是死面饼，便把饼子掰得碎碎的，浇上羊肉汤煮了煮，再放上大片牛肉，又在汤内放入了菠菜、粉丝，撒入葱花，最后又淋上几滴鲜红的辣椒油。当热气腾腾、香味四溢的羊肉泡馍端到面前时，赵匡胤尝了一下，立刻找到了当年的感觉，于是，皇上的架子也不端了，在臣子、卫士惊异的注视下大快朵颐。吃完后，赵匡胤全身舒畅，当即赏赐了店家。
一夜之间，皇帝来吃羊肉泡馍的事就在长安城里传开了，越来越多的人慕名来尝美味，店家索性把肉铺改成羊肉泡馍馆，吃的人多了，馍也掰不及了，于是谁吃谁就自己掰，反倒生出许多情趣。
久而久之，羊肉泡馍成了长安人最喜爱的小吃，一直流传至今。美味的羊肉泡馍不断地出现在陕西历史与文学作品中，或许还因占了皇帝的龙威，因而被誉为“天下第一碗”。
成立于1920年的西安同盛祥的羊(牛)肉泡馍的制作技艺还被列入第二批国家级非物质文化遗产名录。