有了小数之后，记数就更方便了。如圆周率近似值3.1416，若用分数表示，就得写成3927/1250，很麻烦。有位著名的美国数学史家说：“近代计算的奇迹般的动力来自三项发明：印度记数、十进分数(小数)和对数。”
在西方，一般认为小数是比利时数学家斯蒂文发明的。但最早使用现代意义的小数点的是德国数学家克拉维斯。
实际上，早在斯蒂文发明小数点之前很久，中国、印度和中亚就已经使用十进分数了。
公元3世纪，我国魏晋时期刘徽的《九章算术》中，有三处运用了十进分数的思想：十一万八千二百九十六二十五(118296.25)，八十九三(89.3)，一百一十九十二(119.12)。这种写法和西方直到19世纪仍在流行的小数记法，几乎完全相同。到了宋元时期，更有下列论法：中亚的阿尔卡西是世界上除中国人之外第一个应用十进分数的。他的用法体现在他1427年的《算术之钥》一书中。
不论是东方还是在西方，对小数的认识都经过了几百年甚至上千年的演变。