デジタルノギス分解能(デジタルノギスブンカイノウ)
デジタルノギスの分解能とは、表示可能な最小の測定単位のことで、標準的なモデルは0.01mm、高精度モデルは0.001mmの分解能を持つ。分解能と測定精度(器差)は異なる概念である。
デジタルノギスの分解能(Resolution)とは、ディスプレイに表示できる最小の数値変化量を指す。一般的な分解能は0.01mm(10μm)で、これは「0.01mm刻みで数値が変化する」ことを意味する。高精度モデルでは0.001mm(1μm)分解能のものも存在するが、分解能が高いからといって精度(器差)が高いわけではない点に注意が必要である。
分解能と精度の違い
測定器の性能を語るとき、「分解能」と「精度」は混同されやすいが本質的に異なる:
| 用語 | 定義 | 例 |
|---|---|---|
| 分解能(Resolution) | 表示可能な最小変化量 | 0.01mm → 12.34mm の次は 12.35mm |
| 器差(Accuracy / MPE) | 真値との最大許容偏差 | ±0.02mm → 真値10.00mmに対し9.98〜10.02mm |
| 繰り返し精度(Repeatability) | 同一条件で繰り返し測定した際のばらつき | σ = 0.005mm |
つまり分解能0.01mmのノギスが器差±0.02mmであれば、表示値12.34mmの真値は12.32〜12.36mmの範囲にある。分解能0.001mmのモデルでも器差±0.02mmであれば、表示値12.345mmの真値は12.325〜12.365mmとなり、最終桁の信頼性は低い。
JIS規格と分解能
JIS B 7507:2022(ノギス)では、デジタルノギスの器差を以下のように規定している:
| 測定範囲 | 器差(最大許容誤差 MPE) | 対応する分解能 |
|---|---|---|
| 0〜100mm | ±0.02mm | 0.01mm |
| 0〜150mm | ±0.02mm | 0.01mm |
| 0〜200mm | ±0.03mm | 0.01mm |
| 0〜300mm | ±0.03mm | 0.01mm |
| 0〜500mm | ±0.04mm | 0.01mm |
| 0〜600mm | ±0.05mm | 0.01mm |
この規格から、分解能0.01mmのノギスでも150mm以上の測定範囲では器差が0.02mmを超えるため、表示末尾の0.01mm桁は参考値程度の信頼性となる。
分解能に影響する要因
デジタルノギスの実効分解能は、以下の要因によって劣化することがある:
- エンコーダの品質: 静電容量式の電極パターンの精密さが分解能を決定する。ミツトヨのABSOLUTEエンコーダは長年の研磨技術で±0.5μm以下の電極形成精度を実現
- A/Dコンバータのビット数: エンコーダ信号のデジタル変換精度。12bit ADC で4096段階、14bit で16384段階の分解能
- 温度変化: ステンレス鋼の線膨張係数11.5×10⁻⁶/℃により、10℃の温度差で150mmの本尺は約0.017mm伸縮
- 測定力のばらつき: 手動操作のため、押し付け力の違いで0.005〜0.01mm程度のばらつきが生じる
- ジョーの摩耗: 長期間使用でジョー測定面が摩耗し、平行度が悪化
0.01mm vs 0.001mm分解能の使い分け
| 項目 | 0.01mm分解能 | 0.001mm分解能 |
|---|---|---|
| 代表モデル | ミツトヨ 500-196-30 | ミツトヨ 500-777 (MDC-MX) |
| 価格帯 | ¥5,000〜20,000 | ¥25,000〜50,000 |
| 用途 | 汎用測定、自作PC、ホビー | 精密部品検査、品質管理 |
| 表示桁 | XX.XX mm | XX.XXX mm |
| 最終桁の信頼性 | 器差内で信頼可 | 器差により参考値の場合あり |
| 必要な測定環境 | 室温でOK | 20±2℃推奨 |
| 対象ユーザー | 一般〜中級 | 品質管理担当者、検査技師 |
自作PCにおける分解能の必要性
自作PCパーツの寸法公差は一般に±0.5mm以上であり、0.01mm分解能で十分に足りる。例えば:
- ATXケースの5.25インチベイ幅: 146.0±1.0mm → 0.01mm分解能で十分
- M.2 SSD の幅: 22.0±0.15mm → 0.01mm分解能で十分
- CPUクーラーの高さ: 公称値±1mm → 0.01mm分解能で十分
- ファンの厚さ: 25.0±0.5mm → 0.01mm分解能で十分
0.001mm分解能が必要なのは、旋盤やCNC加工でカスタムパーツを製作する場合に限られる。
よくある質問(FAQ)
Q1: 分解能0.01mmと0.001mmのどちらを選ぶべき? A: 自作PCやホビー用途なら0.01mmで十分。0.001mmモデルは価格が2〜5倍になり、測定環境(温度管理)も要求されるため、精密加工・品質検査以外ではオーバースペック。
Q2: 分解能と最小測定単位は同じ意味? A: ほぼ同義で使われるが、厳密には分解能は「変化を検出できる最小量」、最小測定単位は「表示上の最小桁」を指す。デジタルノギスでは両者は一致する。
Q3: 表示値の最終桁はどこまで信頼できる? A: 器差±0.02mmのノギスで分解能0.01mmの場合、最終桁の0.01mmは信頼できる。しかし分解能0.001mmで器差±0.02mmの場合、末尾2桁(0.01〜0.001mm)は器差に埋もれるため参考値程度。
まとめ
- 分解能は表示可能な最小変化量で、精度(器差)とは別の概念
- 標準0.01mm、高精度0.001mmの2タイプが主流
- JIS規格で150mmモデルの器差は±0.02mm
- 自作PCには0.01mm分解能で十分(パーツ公差は±0.5mm以上)
- 0.001mmモデルは精密加工・品質検査向け、温度管理が必要