在古老的齐国，齐宣王对音乐有着浓厚的兴趣，尤其喜爱听竽这种乐器演奏的宏大乐章。为了满足自己的喜好，他组建了一支庞大的乐队，足足有三百人一同演奏。乐队的规模和演奏水平在当时声名远扬，宣王每次欣赏乐队演奏时，都陶醉其中，享受着那气势磅礴的音乐盛宴。
有个叫南郭先生的人，整日游手好闲，不务正业，却听闻宣王的乐队待遇优厚，心中便打起了歪主意。他压根儿就不会吹竽，可又贪图乐队的丰厚报酬，于是绞尽脑汁想混进乐队。
机会终于来了，乐队有成员因故离开，需要补充新人。南郭先生得知消息后，赶忙托人说情，声称自己是吹竽的高手，一心想为宣王的乐队效力。负责选拔乐师的官员，并未仔细考察他的技艺，见有人推荐，便稀里糊涂地让南郭先生加入了乐队。
就这样，南郭先生顺利地混进了这支三百人的庞大乐队。每次乐队演奏时，他就跟着其他人一起，煞有介事地拿着竽，摇头晃脑，做出一副十分投入的样子。由于乐队人数众多，演奏时场面热闹非凡，大家的注意力都集中在整体的演奏效果上，根本没人注意到南郭先生其实是在装模作样，他就这样蒙混过关，白白领取了一份又一份的俸禄，日子过得逍遥自在。
然而，好景不长。齐宣王去世后，他的儿子齐湣王继位。齐湣王和他父亲的喜好截然不同，他不喜欢众人一起合奏的热闹场面，偏偏喜欢乐师们一个一个单独演奏给他听。南郭先生得知这个消息后，顿时吓得惊慌失措。他心里清楚，自己根本不会吹竽，一旦单独演奏，马上就会露馅。
眼看演奏的日子一天天逼近，南郭先生整日提心吊胆，坐立不安。终于，在轮到他演奏的前一天，他趁着夜色，偷偷收拾好行囊，灰溜溜地逃离了乐队。从此，他再也不敢做这种不懂装懂、滥竽充数的事情了。而 “滥竽充数” 这个故事，也在民间流传开来，成为人们告诫自己和他人，不要试图用虚假的本领蒙混过关的经典案例。