早在原始人时代，人们在生产活动中注意到一只羊与许多羊，一头狼与整群狼在数量上的差异，随着时间的推移慢慢的产生了数的概念。数的概念的形成可能与火的使用一样古老，大约是在30万年以前，它对于人类文明的意义也决不亚于火的使用。
最早人们利用自己的十个指头来记数，当指头不敷应用时，人们开始采用“石头记数”“结绳记数”和“刻痕记数”。在经历了数万年的发展后，直到距今大约五千多年前，才出现了书写记数以及相应的记数系统。早期记数系统有：公元前3400年左右的古埃及象形数字；公元前2400年左右的巴比伦楔形数字；公元前1600年左右的中国甲骨文数字；公元前500年左右的希腊阿提卡数字；公元前500年左右的中国筹算数码；公元前300年左右的印度婆罗门数字以及年代不详的玛雅数字。这些记数系统采用不同的进制，其中巴比伦楔形数字采用六十进制、玛雅数字采用二十进制外，其他均采用十进制。记数系统的出现使人类文明向前迈进了一大步，随着生产力的不断发展，数字不断完善，数学就逐渐的发展起来。
公元3世纪，也就是1600多年前，我国伟大的数学家刘徽就提出了小数。
最初，人们表示小数只是用文字，直到了13世纪，才有人用低一格，如8.23记做，左边的表示整数部分，右下方表示小数部分。
古代，还有人记小数是将小数部分的各个数字用圆圈圈起来，例如：1.5记做1⑤，这么一圈，就把整数部分和小数部分分开来了。这种记法后来传到了中亚和欧洲。
公元1427年，中亚数学家阿尔．卡西又创造了新的小数记法，他是用将整数部分与小数部分分开的方法记小数，如3.14记做314。
到了16世纪，欧洲人才注意小数的作用。在欧洲，当时有人这样记小数，如3.1415记做3⊙1①4④1①5⑤。⊙可以看作整数部分的分界标志，圈里的数字表示的是数位的顺序，这种记法很有趣，但是很麻烦。
直到公元1592年，瑞士的数学家布尔基对小数的表示方法作了较大的改进，他用一个小圆圈将整数部分与小数部分分割开，例如：5。24……数中的小圆圈实际起到了小数点的作用。
又过了一段时间，德国的数学家克拉维斯又用小黑点代替了小圆圈。于是，小数的写法就成了我们现在的表示方法。
但是，用小数表示，在不同的国家也有不同的方法。现在，小数点的写法有两种：一种是用“，”；一种是用小黑点“.”。
在德国、法国等国家常用“，”，写出的小数如3，42、7，51……,而英国和北欧的一些国家则喝我国一样，用“.”表示小数点，如1.3、4.5……
关于小数的由来方面的知识
小数，即不带分母的十进分数。小数的产生有两个前提：一是十进制记数法的使用；二是分数概念的完善。小数的出现标志着十进制记数法从整数扩展到了分数，使分数与整数在形式上获得了统一。我国对小数的认识在世界上也是最早的。公元3世纪，我国数学家刘徽在注释《九章算术》中处理平方根问题时就提出了十进小数。
虽然我国对小数的认识远远早于欧洲，但现代数学中所使用的小数的表示法却是从欧洲传入我国的。欧洲关于十进小数的最大贡献者是荷兰工程师斯蒂文(SimonStevin，1548?1620)。他从制造利息表中体会到十进小数的优越性，因此他竭力主张把十进小数引进到整个算术运算中去，使十进小数有效地参与记数。不过，斯蒂文的小数记法并不高明，如139.654，他写作135⊙6①5②4③，每个数后面圈中的数是用来指明它前面数字位置的，这种表示方法，使小数的形式复杂化，并且给小数的运算带来很大的麻烦。1592年，瑞士数学家布尔基（JobstBurgi）对此作出较大的改进。他用一空心小圆圈把整数部分和小数部分隔开，比如把36.548表示为36。548，这与现代的表示法已极为接近。大约过了一年，德国的克拉维斯，首先用黑点代替了小圆圈。他在1608年发表的《代数学》中，将他的这一做法公之于世，至此，小数的现代记法才被确立下来。
