問題
問1 N個の観測値の平均値を算出する式はどれか。ここで,SはN個の観測値の和(ただし,S>0)とし,[X] はX以下で最大の整数とする。また,平均値は,小数第1位を四捨五入して整数値として求める。
ア [S/N-0.5]
イ [S/N-0.4]
ウ [S/N+0.4]
エ [S/N+0.5]
解説と解答
四捨五入は日常よく使われる端数処理です。それをどのように算出するかというアルゴリズムが問われています。平均値はS/Nで求まるので,問題は四捨五入の部分です。小数第1位での四捨五入なので,小数部分が
0.0~0.4999… → 切り捨て
0.5~0.9999… → 切り上げ
としたいところです。最終的には[ ]を使って,小数点以下を切り捨てる処理で値を求めています。そこで元の数値に0.5を加算します。
0.0~0.4999… → 0.5~0.9999…
0.5~0.9999… → 1.0~1.4999…
これで,小数点以下を切り捨てれば,次のようになります。
0.0~0.4999… → 0.5~0.9999… → 0
0.5~0.9999… → 1.0~1.4999… → 1
これが結果的には四捨五入となります。
以上より正解は,選択肢エです。
アイティ・アシスト インストラクタ