我们的祖先很早就注意到了音义之间的关系。《礼记·中庸》说：“今天下车同轨，书同文，行同伦。”早在秦始皇时代，“书同文”作为重要的国策之一被提出，其目的就是要建立起共同的语言——包括口语和书面语。口语要“同音共语”，书面语要“书同文字”。许慎在《说文解字·叙》中也提到：“文字者，经艺之本，王政之始，前人所以垂后，后人所以识古。故曰：‘本立而道生，知天下之至啧而不可乱也’。今叙篆文，合以古籀，博采通人，至于小大，信而有证。稽撰其说，将以理群类，解谬误，晓学者，达神恉。分别部居，不相杂厕……”
许慎的《说文解字》从意义出发，把全部汉字归并为540部，建立了540个意群；每部立一部首，共定540个部首。540个部首的确定，都是从意义出发的（只有“一丨丄丅丿乙”等极少数是单纯从字形定部的）。《说文解字》以小篆为字形根据，建立540部，每部立一部首，共540个部首，这是汉字建立的第一套系统的检字法。540部的建立，既是从字形出发，又是从字义出发的。同部的字，在意义上大都相同、相近、相关或相反、相对。可见，《说文解字》的540部，是汉字按意义编排的字典。东汉应劭的《风俗通义·声音》说：“夫声者，物之动也；音者，物之成也。物动则有声，物成则有音。音有大小，故乐有清浊。理声之韵，合乎音律谓之音。”应劭将“声”“音”加以区别，并注意到了音有“大小”“清浊”的不同，已经接触到音韵学的核心问题。
南北朝时期，颜之推的《颜氏家训·音辞》篇，更是涉及了语音的演变、方言的差异、文字的读音、文人的读音、音韵与字义的关系等诸多方面的问题，而且都有颇为精到的见解。例如，他谈到语音是随时间、地域而变化的：“夫九州之人，言语不同，生民以来，固常然矣……北则以‘北’为‘涉’，南则以‘南’为‘洽’，‘洽’者，‘合’也，‘涉’者，‘步’也，音有楚、夏，则字有南北矣。”他指出了“古语与今殊别”，即古今语音是有变化的。他还谈了南北方音的差别，认为当时的南方语音多存古音，并举例加以证明。
到了唐代，由于“唐诗”的空前繁荣，推动了音韵学的研究。诗人讲究押韵，就需要研究韵类；诗人讲究平仄，就需要研究声调；诗人讲究“炼字”，就需要研究同音字、同义字、同源字。唐代，出现了研究音韵的专著，如李涪的《刊误》、释处忠的《元和韵谱》等。尤其是释处忠的《元和韵谱》，在隋代陆法言《切韵》的基础上，分韵为206韵，又合并为“平上去入”四声，平声57韵，上声55韵，去声60韵，入声34韵，对后世影响很大。
宋代，陈彭年等人奉诏重修《广韵》。《广韵》共收字26194个，注文191886字，把同音字归并在一起，共为206韵（平声57韵，上声55韵，去声60韵，入声34韵），比《切韵》增加1韵；每韵用一个代表字作为韵目，共206个韵目（即206个韵）。《广韵》是韵书，也是字典，它把文字学和音韵学很好地结合起来。《广韵》按声调的不同，把字分成四类，叫做“四声”，即平声、上声、去声、入声；每个声调下再按声母的不同分为若干“韵”，每个韵内再按韵母的不同（即主要元音及韵尾的不同）分为若干“小韵”；每个小韵内的字都是同音字，但同音不同义的字要分别加以解释。《广韵》206-->>