很多人以为，国学自古以来就是中国的，但据史料记载，“国学”这一词汇的本义是：一个国家固有的学术文化，该名词最先由日本提出，传入中国后再不断发展成如今这个样子。
19世纪末，在对“举国欧化”的忧虑中，日本出现了提倡国粹、国学的言论。“国学”成为对抗“西学”的思潮，具有鲜明的民族主义倾向。
戊戌维新时期，国学思想传入我国。因此，如同“社会”、“哲学”、“体育”等许多新词一样，“国学”这个词也是来自日本的“和式汉语”。在维新与保守的斗争中，日本对“国学”的固守成为清朝保守派排拒西学的理据。这时，保守者只借用了“国学”这个词，并没有从学理上、思想上有所认识，并加以分析和阐述。这是国学进入中国的第一个历史时期。
学习与交流才是历史进步的动力，于是在民国初年，通过学者们不断学习和认识西方现代化知识，我过的国学概念有了学理上的深化。以国学来“对应”而不是“抗拒”西学。同时，在国学拉动下，中国传统文化百家思想如儒学被重新审视，不再被简单地打倒和否定。国学逐步走热，以怀疑的态度研究古史，成为新的潮流，学界非常开放，思想活跃，名家辈出。国学进入了它的第二个发展期，也可以说进入了它的昌盛期。
1912年胡适先生提出了一个概念，叫“国故学”，类似于上世纪80年代季羡林先生提出的“大国学”。胡适认为，所谓“国学”就是“国故学”，而国故学包括一切过去的文化历史，上至思想学术之大，下至一个字、一支山歌之细，都是历史，都属于国学研究的范围。这样他就把国学的内涵放大了，“国学”的大结构初步形成。
如今的国学架构是一个金字塔式的结构。
它的基座，就是“大国学”、“国故学”，是中华民族古代和现代所有民族共同创造的共生文化，我们把它叫作“中华文化”。
国学的中层是中华民族的人文学科：哲学、历史学、文学、艺术。还应加上体育，特别是以“国术”为代表的民族体育，或者叫本土体育。
金字塔的顶端是儒学，是中华国学的核心，也有人说是儒释道。
发展到此时，中国“国学”已经完全不等同于日本口中的“国学”，而是发展为具有中国本土文化的特色代名词，国医、国乐、国剧、国画、国语等一系列“国”字头学问勃然兴起。