2024年7月19日金曜日

デジタル測定器は確度を持つ。実験レポートの測定値には、確度を付けて報告しよう。

学生実験を行って測定データをとったら、測定値を計算式に代入して、得られた値を正しいものと話し合って決めた協定値と等しいかどうかを判定する。等しいか違うかだけを述べて終わりではなく、その測定で得られた値の不確からしさの範囲も計算し、範囲内に協定値が含まれるかどうかを判定するべきである。いまだに有効数字や誤差という言葉が使われるのは受験教育と大学教育の古さを示している。物質量のmolを再定義することになると、不確かさをもたない量やあたらしく不確かさを持つ量がでてくることは習わなくても自分でしらべて知っておいた方がよい。
ここでは極く話を簡単にして、デジタル表示の測定器の読み取値から不確かさを求めるときに必要な確度について説明しておく。デジタル表示の測定器の読み取値(reading,rdgと略)を$x$とすると、確度$y$の式として次のように示されています。$\pm a\times x +b = \pm 0.1 \% \mathrm{of\ rdg \ +2 \ digits}$です。私の考えでは$y=ax+b$の一次関数の関係と言ってよいでしょう。$a=0.001,b=2$です。測定レンジは読み取値の桁数が最も大きくなるように設定します。$a,b$は測定器の仕様書で測定レンジごとに予め決められていて、$ax$は読み取り値に比例する誤差、測定レンジで0を測定したとき最高分解能(最小桁)で$b$ずれていると、$b$digitと示します。$b$は固定した誤差です。 読み取値±$y$  の確度$y$ができるだけ小さくなる測定器で測定レンジを最適なレベルに選んで測定しましょう。