“小学”一词的由来可以追溯到 周朝的教育制度，最初并不专指学校。在周代，儿童入学后首先学习的是“六艺”，其中包括“六书”，即汉字的六种造字法：事、象形、形声、会意、转注、假借。由于读书必先识字，掌握字形、字音、字义，学会使用，因此“文字学”被称为“小学”。
西汉时期，“小学”一词正式出现，并指代学童读书认字之初和他们所用的识字课本之类的书。唐宋以后，“小学”又被称为字学。
此外，在殷商时代，已出现正式学校，称为“左学”，因设在国都内王宫南面的左首而得名。
综上所述，“小学”一词的由来与周朝的六艺教育、汉代的文字学研究和学童的识字教育密切相关。