整数と浮動小数点数を使う

整数はカウンターやビット値に、浮動小数点数は連続量の近似計算に使われます。浮動小数点数は有限精度なので、等値比較や境界判定では誤差を考慮します。

整数はカウンターやビット値に、浮動小数点数は連続量の近似計算に使われます。浮動小数点数は有限精度なので、等値比較や境界判定では誤差を考慮します。このページでは、構文だけでなく、入力の検証と再現可能な確認方法も扱います。

考え方と使いどころ

外部入力は文字列やバイト列として届くことがあります。変換に成功したことだけでなく、範囲と単位も検証します。

手元のPython環境に貼り付ける前に、使用しているPythonの版と対象ライブラリの対応を確認してください。

raw = "3290"
voltage_mv = int(raw)
if not 0 <= voltage_mv <= 5000:
    raise ValueError("測定値が範囲外です")
print(voltage_mv)

整数のカウンターと浮動小数点の測定値を分け、許容誤差つきで比較してください。