有効桁数とビットの関係 - malibu-bulldogの日記

10進法で有効桁数が12桁は2進法を基数とするビットでは何ビットになる？

まず，話を簡単にするために逆に考えてみる。
単精度の浮動小数点データは仮数部が23bit。
つまり2の23乗までの数値を表せる。

$x = 2^{23}$

このxが10進法でいったら10の何乗？というのが問題になる。

ということで両辺を底数に10をとった対数で書き直すと

$\log_{10}{x} = \log_{10}{2^{23}}$

$\log_{10}{x} = 23 \log_{10}{2}$

つまり有効桁数は仮数部のビット数に $\log_{10}{2}$ (だいたい0.3ぐらい)を掛ければいい。

で，単精度の有向桁数は23に0.3を掛けて7桁ぐらいになる。倍精度だと56に0.3を掛けるの17桁ぐらいかな〜。

えーっと会社のえら〜い人のお話によれば「構造力学の分野では有効桁数は12桁もあればいいのである」とのこと

その話を仮に鵜呑みにしてみる，すると仮数部は40bitぐらいになるわけだ。
つまり単精度では足りないと結論づけられる。