国时，齐宣王很爱听吹竽。(竽是古代的一种用竹子制成的多管乐器，类似笙。)但是，他不爱听独奏，认为许多人在一起吹奏出来的乐曲才优美动听。所以，每回都要三百个乐师齐奏，他听起来才过瘾。
齐宣王的这个嗜好很快传到百姓当中。有一位南郭先生，根本不会吹竽，但他到处冒充能手，夸耀自己。当他听到齐宣王喜欢听齐奏的消息后，十分高兴，心想：
“我可以混到王宫中为大王吹竽，不会被人察觉。可以享受优厚待遇，又不费力气，何乐而不为?”
于是，南郭先生来到宫殿见齐宣王。他拍着胸脯，胸有成竹地说：
“听说大王喜爱听吹竽，我愿为大王效力。我吹的竽美妙动听，大王一定会满意的。”
齐宣王听后很高兴，让他加入吹竽的乐队中，给他的待遇同数百人一样。
从此以后，南郭先生便混迹于三百人的乐队之中，每回都参加演奏。演奏时，他装模作样，双手捧着竽，嘴唇微微地动。别人看来，他好像在吹，其实并没有吹出声来。这个冒充的乐师，就这样混了许多年，而且同其他乐师一样享受很高的待遇。
后来，齐宣王死了，他的儿子继承了王位，就是齐湣王。这个新任的国君，也爱听吹竽。但与他父亲不同的是，他爱听独奏，不喜欢听合奏。每次总是让三百个乐师一个一个地演奏。
真正有演奏技能的乐师们独奏时，镇定自若，奏出优美的乐曲，受到国君的赞赏。而此时的南郭先生开始心虚害怕了。他浑身瑟瑟发抖，心里七上八下。他想：
“这下可不好了。湣王好听独奏，乐师们一个一个地吹竽。若叫到我，岂不要露马脚?我本来就不会吹竽呀!以前可以哄骗齐湣王，现在恐怕无法蒙混过关了。一旦大王发现我不会吹竽，定会惩罚我的。不如趁早溜之大吉。”
南郭先生知道自己没法继续混下去了，只得悄悄榴走了。
后来，“南郭吹竽”这一典故，用来形容没有真才实学，不称其职;或用来形容以次充好，假冒充数。