“国学”一词最早出自《周礼·周官·乐师》：“掌国学之政，以教国子小舞”。本义是指周代中央在王城设立的国家教育行政机构和学校（国立学校）。庐山的“白鹿洞书院”在晚唐时称“白鹿洞国学”。《汉书》、《后汉书》、《晋书》里面都有“国学”的概念。可见，在中国历史上，“国学”这个概念是有的，但那时讲的所谓“国学”，是指“国家所立的学校”的意思。

元代分设国子监管辖国子学，蒙古国子学于元世祖至元八年（1272年）创立，元大德十年（1306年），北京国子监始建，初称为北平郡学，是元、明、清三代的国家最高学府及教育行政管理机构。明初设中都国子学，后改为国子监，掌国学诸生训导的政令。国子监设有礼、乐、律、射、御、书、数等教学科目。