关于日本列岛上被确认过的人类历史，大约可以追溯到3万年前至10万年前。约1.2万年前左右，因末次冰期结束而开始急剧温暖化，使得人们的文化与生活产生极大变化，全岛进入下个绳文时代。约1.2万年前左右开始被称为绳文时代。
伴随着渡来人的移入，日本在弥生时代初期出现了陶器、铁、铜器以及水田等文化，使日本逐渐成为一个农业社会。弥生时代中期，位于九州的奴国国王向汉朝朝贡，并获赐金印。
到了2世纪后半期，各小国内战频繁，直至3世纪中叶才出现较大的“大和国”，后经过长期的扩张，并且逐渐征服了日本中部大部分地方，其首领最初称为“大王”，后来改称天皇 。
到了奈良时代，即以奈良（平城京）为都的时代。是律令制社会的繁荣鼎盛时期，表现在政治经济制度、阶级关系、文化以及对外关系等方面。 光仁天皇及桓武天皇时期，朝廷力图整顿混乱的政治形势，缩减财政开支，改革兵制，向东北地区扩展疆域，谋求整形和重新加强律令制。日本最早的史书《古事记》、《日本书纪》也于此时相继编成，从而进入日本的历史时代。
