战时期，河北省涞源县上庄村十二岁的放牛娃王二小，出生在一个贫苦的家庭。他和爸爸、妈妈，哥哥生活在一起，虽然清贫，但他们相亲相爱，生活充满了温馨。
一九四二年的一天，一声巨响，日本鬼子的炮弹落到了二小的家里。在山上放牛的二小和哥哥眼睁睁的看着刚才还温暖的家和亲爱的爹娘，顷刻间灰飞烟灭，惊恐得不知所措。
二小亲眼目睹日本鬼子残酷杀害村民，心里种下了仇恨的种子。二小的哥哥石头和乡亲们被鬼子抓去修炮楼，二小把乡亲们凑的几个黑菜饼送给工地上的哥哥吃，可恶的鬼子却一脚把菜饼踩进土里。愤怒的二小看到地上有一只蝎子，他用弹弓偷偷把蝎子甩进了鬼子的脖子里。不一会，鬼子被蜇得跳了起来。
恼羞成怒的鬼子端着刺刀刺向二小，一个乡亲举起铁镐砸死了鬼子。工地上一片混乱，乡亲们纷纷逃走，二小躲开了鬼子的追赶，却和哥哥石头跑散了。
又累又饿的王二小走了三天三夜，沿着公路，昏昏沉沉地走进了八路军伏击鬼子的埋伏圈。
八路军吴连长担心会误伤二小，放弃了这次伏击行动。但一个掉队的鬼子却抓住了二小，吴连长策马追上鬼子，救出了二小。
二小被带到根据地，和边区的女干部柳老师住在一起。柳老师是大学生，她教村里的儿童团员们学习文化。她对二小既像妈妈又像姐姐，让二小感受到了温暖。
王二小一心想着要报仇，儿童团长铁柱却瞧不起二小。二小为了让大家瞧瞧自己的本事，从村里偷了两个地雷，要去炸鬼子，却在雨夜中迷了路。
吴连长冒着大雨找回了二小，他很欣赏二小的勇敢。柳老师却生气了，她认为孩子是国家的未来，不能做无畏的牺牲。
鬼子向山里扫荡，二小因为淋雨而生病了。柳老师背着二小，和乡亲们一起转移到长城脚下。
迷迷糊糊的二小躺在柳老师怀里，听柳老师流着眼泪讲要孩子们好好活下去的道理。他恍惚看到了自己的娘，也明白了柳老师一片苦心。
二小跟着柳老师和吴连长，学了许多知识。他懂得了，鬼子欠下的不仅是他一家，而是整个中华民族的血债。他还懂得了，等打走了鬼子，自己长大了，还要建设我们的国家。
鬼子的大扫荡又开始了。吴连长带着队伍去山那边，说要设个包围圈等鬼子来钻。
柳老师带着二小和孩子们又转移到了长城边上。太阳高高地照着，柳老师要教孩子们识字。一转身，她看见悄悄逼近的鬼子钢盔在阳光下闪闪发亮，柳老师一把将孩子拉到自己身后，枪声响了，柳老师倒下了。
鬼子来了。
二小看到鬼子向乡亲们转移的方向走，心里着急，他不能让鬼子追上了乡亲们。二小急中生智，唱着放牛歌从山坡上走了出来，他要把鬼子引到另一条道上去。
鬼子果然抓住二小，要二小为他们带路。
二小领着鬼子走到了八路军埋伏的山沟，大叫着要吴连长快开枪。此时才知道中计的鬼子气急败坏，把刺刀扎进了二小的身体，将二小挑了起来。
二小像一片树叶飘落下来，满山的树叶都一起纷纷飘落下来。每一片树叶都像被二小的鲜血染红，满山遍野都是红叶。
乡亲们得救了，八路军发起了进攻，把鬼子全部消灭在山沟里。
