| 测量精确度 |
| 直流电压 | 30.000 V | 0.01% + 2 mV(显示屏上部) |
| 20.000 V | 0.01% + 2 mV(显示屏下部) |
| 90.00 mV | 0.01% + 10 μV |
| -10.00 mV 至 75.00 mV | 0.025% + 1 次计数(通过 TC 连接器) |
| 直流电流 | 24.000 mA | 0.01%+ 2 μA |
| 电阻 | 0.0 至 4000.0 Ω | ± 0.015% |
| 频率 | 2.0 至 1000.0 CPM | 0.05% + 0.1 cpm |
| 1.0 至 1000.0 Hz | 0.05% + 0.1 Hz |
| 1.00 至 15.00 kHz | 0.05% + 0.01 kHz |
| 灵敏度 | 1 V 最小峰峰值 |
| 压力 | 使用 29 个压力模块当中任何一个时精度为量程的 0.025%(有关详细规格,请参阅选件和配件中的压力模块)。提供以下模块:压差、压力计、真空度、绝对压力、双压力及高压力。 |
| 输出精确度 |
| 直流电压 | 100.00 mV | 0.01% + 10 μV |
| 20.000 V | 0.01% + 2 mV |
| -10.00 mV 至 75.00 mV | 0.025% + 1 次计数(通过 TC 连接器) |
| 直流电流 | 24.000 mA(输出) | 0.01% + 2 μA |
| 24.000 mA(模拟) | 0.01% + 2 μA |
| 电阻 | 量程、精度(读数百分比 + 基数)和激励电流 | 5 至 400 Ω,0.015% + 0.1 Ω,0.1 至 0.5 mA |
| 5 至 400 Ω,0.015% + 0.05 Ω,0.5 至 3 mA |
| 400 至 1500 Ω,0.015% + 0.5 Ω,0.05 至 0.8 mA |
| 1500 至 4000 Ω,0.015% + 0.5 Ω,0.05 至 0.4 mA |
| 频率 | 2.0 至 1000.0 CPM | 0.05% |
| 1.0 至 1000.0 Hz | 0.05% |
| 1.0 至 10.0 kHz | 0.25% |
| 10.0 至 15.0 kHz | 0.50% |
| 波形 | 5 V p-p 方波,-0.1 V 偏移 |
| RTD 和热电偶 |
| 测量和输出精度 | Cu10 | 1.8 °C |
| NI-120 | 0.15 °C |
| PT-100 (385) | 0.45 °C |
| PT-100 (392) | 0.35 °C |
| PT-100 (391-JIS) | 0.35 °C |
| PT-200 (385) | 0.95 °C |
| PT-500 (385) | 0.55 °C |
| PT-1000 (385) | 0.35 °C |
| RTD 分辨率 | 0.01 °C (0.01 °F) |
| Cu10.01 C | 0.1 °C (0.1 °F) |
| J | 0.4 °C |
| K | 0.5 °C |
| T | 0.4 °C |
| E | 0.4 °C |
| R | 1.4 °C |
| S | 1.4 °C |
| B | 1.4 °C |
| L | 0.45 °C |
| U | 0.45 °C |
| N | 0.6 °C |
| XK | 0.4 °C |
| BP | 1.1 °C |
| TC 分辨率 | J、K、T、E、L、N、U:0.1 °C,0.1 °F B、R、S:1 °C,1 °F |