在古代， “小学”指的是基础教育。具体来说，它包括儒家经典的阅读与背诵，以及汉字和文化知识的基础教育。小学是青少年接受正规教育的第一步，一般开始于7岁，为后续的中学和大学奠定了基础。在古代，“小学”还指音韵和训诂两门学问，这类似于现在的文字学。音韵研究的是文字的发音及其变化，而训诂研究的是文字的意义。
此外，“小学”一词最早并不专指学校。西汉时称“文字学”为“小学”，唐宋以后又称“小学”为字学。读书必先识字，掌握字形、字音、字义，学会使用。周朝儿童入学，首先学六甲六书，所以从前把“文字学”称“小学”，“小学”之名即由此而得。
综上所述，古代的小学主要是为了培养贵族子弟的基础教育，包括识字、音韵和训诂等方面的学习。