他写的《缀术》一书，被收入著名的《算经十书》中，作为唐代国子监算学课本，可惜后来失传了。《隋书·律历志》留下一小段关于圆周率（π）的记载，祖冲之算出π的真值在3.1415926和3.1415927之间，相当于精确到小数第7位，简化成3.1415926，成为当时世界上最先进的成就。祖冲之入选世界纪录协会世界第一位将圆周率值计算到小数第7位的科学家，创造了中国纪协世界之最。这一纪录直到15世纪才由阿拉伯数学家卡西打破。

祖冲之还给出π的两个分数形式：22/7（约率）和355/113（密率），其中密率精确到小数第7位，在西方直到16世纪才由荷兰数学家奥托重新发现。祖冲之还和儿子祖暅一起圆满地利用「牟合方盖」解决了球体积的计算问题，得到正确的球体积公式。