有効数字

2014-08-26の記事
>他の方々も、有効数字の表現というのは意外にぞんざい

他人のこと以前に、7000.pdf 自体でも有効数字を超えた
表現を使っていることを明記しておいた方が公正かも。

表２の春分年の計算は、p.2左上の Meeus の近似式から
導いていますが、この近似式の精度は小数点以下５桁です。

表２で有効数字を超えた桁数を示したのは、正しく丸めた
表を作ってみたところ、その表から読者が計算結果を電卓
などで簡単に再確認できなくなることに気づいたからです。

そこで、表２の桁数は残し、本文で365日5時間48分59.5秒^[1]
と丸めることにしたのです。

有効数字の扱いは気を使います。

[1] 49分00秒までで止める方が有効数字的には妥当かも
　　しれません。

[関連記事] 2014-03-28 細かいコメント