零是位值制记数法的产物。很久以前，当人们采用这种记数法遇到空位的时候，就会采用不同的方式来表示它的存在。世界上较早采用位值制记数法的有巴比伦、玛雅、印度和中国等，这些地区和民族都对零的产生和发展作出过自己的贡献。
世界上最早采用十进制记数法的是中国人。“零”这个符号之所以产生的原因，最初其实也并不是为了表示“无”，而是为了弥补十进制值记数法中的缺位。从公元七世纪起，中国开始采取用“空”字来作为零的符号。但是，中国古代的零是圆圈O，并不是现代常用的扁圆0。现在普遍使用的包括“0”在内的印度——阿拉伯数码是在13世纪的时候由伊斯兰教徒从西方传入中国的，而那时中国的O已经使用一百年了。
希腊的托勒密是最早采用这种扁圆0号的人，由于古希腊数字是没有位值制的，因此零并不是十分迫切的需要，然而当时用于角度上的60进位制时，则很明确地以扁圆0号表示空位。可是，托勒密的0并没有作为数参加运算，也没有单独使用的情况。
最先把零作为一个数参加运算的是印度人。他们在很早的时候就采用了十进位值计数法。空位最开始是用空格表示的，后来为了避免看不清带来的麻烦，就在空格上加一小点，如用5·8表示508。公元876年，在印度的瓜廖尔地方发现了一块石碑，上面的数字和现代的数字很相似，这可能是由小点发展为小圈0表示零的最早根据。
印度人承认零是一个数并用它参加运算可以说是对零的发现的更为重要的贡献。
后来，历经了漫长的岁月，印度数字传入了阿拉伯，并发展成为现今我们所用的印度——阿拉伯数字。但直到1202年，意大利数学家斐波那契把这种数字（色括0）传入欧洲，现代的零的概念和印度——阿拉伯数字中的零号才逐渐流行于全世界。
