有効数字の計算方法

日本 フォーラム
, ,
1

データテーブルで得られた数値を有効数字3桁に直したいです。

1.234567 => 1.23
0.123456 => 0.123
0.000123456 => 0.000123

のような、様々な桁数が混在した状態からの
計算方法をご存じのかたがいらっしゃいましたらご教示いただけますと幸いです。

2

ダサいやり方でしょうけど、１以上になるまで10倍していき、Math.Flootメソッドで必要情報を取得し、最終的に10倍した数だけ10で割る。。。

書いていて、ダサい。

3

ダサいながらも、実装してみました。

有効数字の計算方法.zip (33.7 キロバイト)

4

こんにちは

d=0.001234567

とすると

d.ToString("G3")

数値に戻したければ、例えば、

Double.Parse(d.ToString("G3"))
4 Likes
5

早速のご返答ありがとうございます。
フローまで作成していただきうれしいです！

6

こんなにシンプルな方法があるとは・・・！
解決いたしました。とても助かりました。ありがとうございました。

2 Likes
7

This topic was automatically closed 3 days after the last reply. New replies are no longer allowed.