数値システムは、一貫した方法で数字またはシンボルを使用して数値を表すための数学表記です。
1 f32 = 1 f64
1 f64 = 1 f32
例:
15 IEEE 754単一の精度をIEEE 754ダブル精度に変換します。
15 f32 = 15 f64
| IEEE 754単一の精度 | IEEE 754ダブル精度 |
|---|---|
| 0.01 f32 | 0.01 f64 |
| 0.1 f32 | 0.1 f64 |
| 1 f32 | 1 f64 |
| 2 f32 | 2 f64 |
| 3 f32 | 3 f64 |
| 5 f32 | 5 f64 |
| 10 f32 | 10 f64 |
| 20 f32 | 20 f64 |
| 30 f32 | 30 f64 |
| 40 f32 | 40 f64 |
| 50 f32 | 50 f64 |
| 60 f32 | 60 f64 |
| 70 f32 | 70 f64 |
| 80 f32 | 80 f64 |
| 90 f32 | 90 f64 |
| 100 f32 | 100 f64 |
| 250 f32 | 250 f64 |
| 500 f32 | 500 f64 |
| 750 f32 | 750 f64 |
| 1000 f32 | 1,000 f64 |
| 10000 f32 | 10,000 f64 |
| 100000 f32 | 100,000 f64 |