数値の意味をそろえる

1数値にしても使える演算は違う

名義尺度は血液型のような分類で、番号の大小に意味はありません。順序尺度は満足度や学年の順序で、順位の間隔や比を一般には保証しません。

間隔尺度は時刻や摂氏温度のように差を扱えますが、0が量の不存在ではなく、20度が10度の2倍の熱さとはいえません。比例尺度は睡眠時間や重さのように意味のある0をもち、4時間は2時間の2倍といえます。

2集計・整列・順位づけ

集計では合計や平均を求めます。データの並べ替えは昇順や降順に順序を変える操作で、ランキングは順位を付けることです。同点を同順位にするかなどの規則も決めます。

比較では人数、期間、単位をそろえます。売上合計が増えても営業時間が倍なら、1時間当たりでは下がるかもしれません。測定誤差や丸め誤差を含む値を、必要以上の桁数で確実な値のように示さないようにします。

3減る割合を繰り返し掛ける

誤り率70%を現在の値から5%ずつ減らすなら、残る割合は95%＝0.95です。 1. 初回：70%×0.95＝66.5%。正解率は100−66.5＝33.5%。 2. 2回後：66.5%×0.95＝63.175%。

正解率36.825%。 3. 正解率35%超が条件なら初回は不足、2回で初めて超えます。

5パーセントポイント減なら70%→65%です。相対的に5%減とは別の計算で、単純に5を引き続けません。

4長さと面積の比を分ける

相似な図形で長さが2倍になると、面積は2×2＝4倍です。A判用紙は長辺を半分にしても縦横比が同じになります。

短辺を1、長辺をxとします。半分にすると辺は1とx/2。向きを変えた長辺÷短辺は1÷(x/2)＝2/x。元の比xと等しいのでx²＝2、x＝√2≒1.41です。面積比2を長さの比と取り違えません。1.5や√3はこの等式を満たしません。

5比較条件と誤差をそろえる

数値の比較では、何を同じ条件にするかを先に決めます。例えば処理した申請が改善前100件、改善後150件でも、作業時間が5時間から10時間へ増えていれば、1時間当たりは20件から15件へ低下しています。合計件数の増加と、生産性の改善は同じ意味ではありません。

処理前後で同じ指標・対象範囲・単位を用いて比べます。

誤差には、測定機器や測り方による測定誤差と、数値を有限の桁へ丸めることで生じる丸め誤差などがあります。例えば1/3を先に0.33へ丸めてから3倍すると0.99ですが、式全体を計算してから丸めれば1.00です。途中で必要以上に丸めず、最後に目的に合う桁数へそろえます。

測定が小数第一位までなら、記録した2.3を2.3000と書いても測定精度が上がるわけではありません。小さな差を評価するときは、その差が測定のばらつきや丸めだけで生じていないかも確かめ、誤差を含む値を確定値のように扱わないことが大切です。