有一天，公爵突然决定遣散这支乐队，这就意味着海顿和30名乐手将要丢失饭碗。乐手们一时心慌意乱，不知所措。
海顿心想：公爵决定过的事情一般是很难更改的，无论怎样央求，都无济于事。想来想去，突然灵机一动，提笔谱出了一首《告别曲》，准备拿到遣散会上，作为一次独特的告别演出。
这是最后一次为公爵演出，因为决定已经宣布，乐手们已经万念俱灰，但看在平时和公爵在一起的情谊上，还是十分卖力地演奏起来。
乐曲开始时欢快、优美、轻松怡然，将乐手与公爵的美好友谊表达得淋漓尽致，公爵不由得感动起来，渐渐地，乐曲由明快转为平缓，又由平缓转为黯淡。悲怆的情绪起来了，像秋天的浓雾一般在大厅里弥漫开来。
这时，一名乐手停了下来，吹灭了乐谱架上的蜡烛，站起身来向公爵深深地鞠了一躬，然后悄悄地离开。
接着，又一名乐手以同样的方式离开……乐手们一个又一个地相继离开了。最后，空荡荡的大厅里只剩下了海顿一个人，旁边一支蜡烛在黑暗中静静地闪烁着。
海顿停止了指挥，默默地朝公爵深深鞠了一躬，慢慢地转过身去也要离开。
这时，公爵的情绪已达到了顶点，再也忍不住了，大叫起来：“海顿，这是怎么回事？”
海顿平静而又诚挚地回答：“尊敬的公爵大人，这是乐队的全体同仁在向您作最后的告别啊！”
公爵突然醒悟过来，几乎流出眼泪说：“啊！不！请让我再考虑一下。”
就这样，海顿和30名乐手，靠演出《告别曲》的奇特氛围使公爵将他们留了下来。
