史前音乐
第一件乐器可能就是人声，它可以发出很广泛范围的声音，由唱歌，哼音及口哨，至到搭嘴音, 咳嗽及哈欠。在2008年考古学家在位於德国乌尔姆的Hohle Fels洞穴发现一个骨制笛子 。这个五孔的笛子有一个由兀鹰翼骨制成的V形的喉舌。最古老的木管乐器在2004年於爱尔兰格雷斯通发现。一个木制坑里面发现一组共六个由30至50厘米长的紫杉木笛子，一端为锥形，但没有指孔。它们可能曾绑在一起。
古代音乐
史前时代被认为以发明书写而终结，在定义来说，也结束了史前音乐时期。随後的音乐被称为「古代音乐」。「最古老的已知歌曲」早在3400年之前的乌加里特由楔形文字写成，由Anne Draffkorn Kilmer破译，它由三分之二的和声组成，就如古代的平行三度 ，同时也使用自然音阶的五度相生律写成。世界上留存至今最古老的完整的音乐作品（包括音乐符号）是塞基洛斯的墓志铭。
双管乐器，例如由古希腊人使用，及古代风笛、在瓶上及墙上的古代画像的评论、描述了当时音乐技术的古代书写著作（例如Aristotle, Problems, Book XIX.12）也显示在古代已使用了复音。双管乐器的其中一管很可能作为持续音或基调使用，而另一个管演奏了旋律段落。印度河流域文明考古场地发现了有七个孔的笛子及种类广泛的弦乐器。
印度传统音乐（marga）在Hindu的传统经文吠陀中描述。四大吠陀经之一的娑摩吠陀有对音乐有相当篇幅的描述。
拉瓦纳哈塔琴是一个在西印度流行的小提琴鞠躬，起源相信是罗波那王的时代的Hela文明。这个弦乐器曾被认为是世界上最古老的弦乐器。
中世纪音乐
演奏中世纪音乐的乐器至今依然存在，但是形式有所不同。当时的长笛用木材制成，不像现代长笛用银或其他金属制成，并且有直吹和横吹的类型。现代管弦乐长笛通常由金属制成，且有复杂的音键和气密垫，而中世纪的长笛上有孔，表演者必须用手指覆盖（就像木笛一样）。中世纪木笛正如其名由木材制成，尽管在二千年代它可以由合成材料制成，但仍或多或少地保留了当时古老的形式。 号角（Gemshorn）前面的指孔虽和直笛相类似，但它实际上是的陶笛家族的成员。排笛是笛类器乐的其中一个祖先，其历史可追索至古希腊时代，在中世纪时期亦曾流行过，排笛的管子是用木头制成的，并以长度分级以产生不同的音高。
中世纪的音乐使用许多弹拨乐器，如鲁特琴，一种有梨形空心体的弹拨乐器，为现代吉他的前身。其他弹拨乐器包括曼陀罗，gittern和萨泰里琴。Dulcimer本来也是拨弦乐器的一页，在结构上类似於psaltery和齐特琴，到了十四世纪金属弦出现之後变成了击弦乐器。
拜占庭帝国的擦弦lyra是在欧洲首次记录到弓弦乐器。和现代小提琴一样，表演者在琴弦上移动被拉紧弓弦来产生声音。第九世纪波斯地理学家伊本·胡尔达兹比赫（卒於公元911年）在他的著作中提及过拜占庭lyra。它作为弓弦乐器并列於阿拉伯的rabāb、urghun（管风琴）[2]、shilyani（大概类似竖琴或里拉琴）和salandj（相信是一种风笛）[3]。另一种擦弦乐器手摇琴，结构上是一部机械小提琴，使用擦上松香的曲柄木轮作为「琴弓」擦弦发声。没有共鸣箱的乐器，例如口簧琴之类的乐器亦很常用。古式管风琴、小提琴（或vielle）、伸缩号等乐器亦已经出现。
文艺复兴，巴洛克及以后
古典音乐中使用的多数乐器都是在19世纪中叶之前发明（通常比这还要早得多），在18、19世纪纳入乐队编制的。
