关于日本人的民族来源，尚无定论。在中国的古代典籍特别是《山海经》中有着若干记载。《山海经》是人类历史上最重要的地理文献典籍之一，它记录了中国及其周边地区的山川地形地貌、物产和民族分布；
以及相应的历史故事，涉及的年代包括周朝、商朝、夏朝直至先夏时期（可以追溯到一万年前）。其中周朝文献《海内北经》记有：“盖国在钜燕南，倭北。倭属燕。”《山海经》的其它篇章则记述着中国人多次向东海诸岛屿迁徙的事迹。
大约从新石器时代日本岛才开始有居民，最早的日本居民是从北方大陆移来的通古斯人，以后有马来人从南方渡海而来，大约从公元前一千纪后半开始，就不断有中国和朝鲜人移居日本。
从新石器时代开始到公元前2世纪的日本，考古学上称为绳纹式文化时代，使用石器、骨器，捕猎、捕鱼，居住在竖穴中，出土有女性土偶。
