U2781A Datasheet, PDF (63/76 Pages) Keysight Technologies – USB Modular Products

Test
Range/NPLC
20
10
2
1
0.025
0
DCV
100 mV
0.413
0.213
0.053
0.033
0.016
0.016
1V
0.414
0.213
0.053
0.033
0.016
0.016
10 V
0.413
0.213
0.053
0.033
0.016
0.016
100 V
0.414
0.214
0.053
0.033
0.016
0.016
300 V
0.413
0.213
0.053
0.033
0.016
0.016
DCI
10 mA
0.413
0.214
0.053
0.033
0.016
0.016
100 mA
0.393
0.213
0.053
0.033
0.016
0.016
1A
0.414
0.213
0.053
0.033
0.016
0.016
2A
0.413
0.213
0.053
0.033
0.016
0.016
2W
100 Ω
0.414
0.214
0.053
0.033
0.016
0.016
1 kΩ
0.414
0.213
0.053
0.033
0.016
0.016
10 kΩ
0.413
0.214
0.054
0.033
0.016
0.016
100 kΩ
0.413
0.213
0.053
0.033
0.016
0.016
1 MΩ
0.413
0.213
0.053
0.033
0.016
0.016
10 MΩ
0.413
0.213
0.053
0.033
0.016
0.016
100 MΩ
0.413
0.214
0.053
0.033
0.016
0.016
4W
100 Ω
0.863
0.461
0.141
0.102
0.063
0.062
1 kΩ
0.830
0.431
0.110
0.069
0.030
0.030
10 kΩ
0.829
0.430
0.110
0.069
0.030
0.030
100 kΩ
0.830
0.430
0.110
0.069
0.030
0.030
1 MΩ
0.831
0.431
0.110
0.070
0.030
0.030
10 MΩ
0.986
0.585
0.265
0.225
0.186
0.185
100 MΩ
0.986
0.585
0.265
0.225
0.186
0.186
Test Conditions of PC and USB DMM Module
–– Processor: Intel Core2 Duo Processor E8400 3.00 GHz, 6 MB L2 cache, 1333 MHz FSB
–– Memory : 2GB DDR2
–– Hard Disk Drive (HDD): 160GB
–– Microsoft Windows XP
–– Professional Version 2002, Service Pack 2.
–– The module is loaded with FW revision 1.12 and running with KMM version is 1.8.7.0
63